GoogleはまだGeminiの偏った画像生成器を修正していない

2月、GoogleはAI搭載チャットボット「Gemini」の人物画像生成機能を一時停止した。これは、ユーザーから歴史的事実の不正確さを指摘されたためだ。例えば、「ローマ軍団」を描写するように指示すると、Geminiは時代錯誤的な人種的多様性に富んだ兵士の集団を描写し、「ズールー族の戦士」はステレオタイプな黒人として描写してしまうのだ。

GoogleのCEO、サンダー・ピチャイ氏は謝罪し、GoogleのAI研究部門DeepMindの共同創業者であるデミス・ハサビス氏は、修正は「非常に短期間で」、つまり数週間以内に提供される予定だと述べた。しかし、5月も半ばを過ぎた現在も、約束された修正は未だに実現していない。

Googleは今週開催された年次開発者会議I/Oで、カスタムチャットボットから旅行プランナー、Googleカレンダー、Keep、YouTube Musicとの連携まで、Geminiの様々な機能を宣伝しました。しかし、ウェブ版とモバイル版のGeminiアプリでは、人物画像の生成は引き続きオフになっているとGoogleの広報担当者は認めました。

では、何が問題になっているのでしょうか？実は、問題はハサビス氏が示唆したよりも複雑である可能性が高いのです。

Geminiのような画像生成器の学習に用いられるデータセットには、一般的に白人の画像が他の人種や民族の画像よりも多く含まれており、これらのデータセットに含まれる非白人の画像は、否定的なステレオタイプを助長する。Googleはこうしたバイアスを修正しようと、裏で不器用なハードコーディングを実装したようだ。そして今、歴史の繰り返しを避けられる、妥当な中道を見出そうと苦心している。

Googleはそこに到達できるだろうか？もしかしたらできるかもしれない。あるいはできないかもしれない。いずれにせよ、この長引く騒動は、AIの不正行為の修正は容易ではないこと、特にその根本に偏見がある場合はなおさらであることを改めて思い起こさせる。

テッククランチイベント

サンフランシスコ | 2025年10月27日～29日

AIニュースレターを始めます！   6月5日から受信ボックスに配信を開始するには、こちらからご登録ください。