ChatGPTより黒人？このクイズで調べてみよう

クリエイティブ広告代理店のマッキニーは、AIの偏見に光を当てるために、「あなたはChatGPTより黒人ですか？」というクイズゲームを開発しました。

このゲームは、ChatGPTが黒人コミュニティについて訓練された知識と照らし合わせて、黒人文化に関する知識をテストします。「『あまり彼らに甘えすぎてはいけない』と言われたらどういう意味ですか？」「イベントに招待されたらどう反応しますか？」といった質問が出題されます。私がクイズを受けたところ、ChatGPTも私も最初の質問には正解しました。「あまり彼らに甘えすぎてはいけない」と言われたら、それは大抵、相手に甘えることを意味します。しかし、ChatGPTは2つ目の質問には答えられませんでした。イベントに招待されたとき、黒人コミュニティでは「他に誰が来るの？」という典型的な返答が一般的ですが、ChatGPTは「招待してくれてありがとう！」と答えたそうです。

「このゲームは何でも知っているボットとして宣伝されていますが、興味深いのは、特に白人特有のことではない事柄に関しては、すべてを知っているわけではないということです」と、マッキニーのコピーライターであり、このゲームのクリエイターの一人であるメーガン・ウッズ氏はTechCrunchに語った。

ウッズ氏によると、このクイズのアイデアは昨年、マッキニー大学でのクリエイティブなブレインストーミング中に生まれたという。ウッズ氏と黒人主導のチームは、ChatGPTが黒人ユーザーといかにかけ離れているかを冗談めかして指摘するために、この製品の開発に1年を費やした。彼女は、ChatGPTの盲点は、黒人文化の要素の多くが必ずしもオンラインで記録されているわけではないという事実に起因しているようだと指摘した。むしろ、それらは直接、あるいは口頭で世代を超えて受け継がれている。つまり、インターネットから黒人に関する情報をスクレイピングする際に、そのアルゴリズムは多くのニュアンスを見逃してしまうのだ。

「死角があると、かなり不安になります」とウッズは言った。「かなり危険です」

AIは好調な成長を遂げているかもしれないが、この分野の女性、黒人、褐色人種の開発者、そして創業者たちは、長らく無視され、あるいは疎外されてきたと訴えてきた。その結果、AIイノベーションは、異なる文化に適応するために必要な文化的洞察や複雑さを伴わずに構築されている。極端な例では、多様性の欠如は、黒人の肌を検知できないAIを使って車が開発されることを意味し、事故の増加につながっている。その一方で、それは単にホイットニー・ヒューストンの曲と他の曲を区別できないチャットボックスを意味するだけである。

AIバイアスの検出と軽減を支援する企業、Destined AIの創業者ジェラルド・カーター氏は、マッキニー・クイズはゲーム化することでAIのギャップへの意識を高めるのに効果的だと述べた。「あらゆるレベルで多様な視点を取り入れることで、多くの微妙な差異に対応できます」とカーター氏は述べた。「AIがその潜在能力を最大限に発揮するには、あらゆる場所で、誰にとっても役立つものでなければなりません。」