OpenAIは、その話題のAIチャットボットが偽情報を幻覚させる傾向があることをめぐり、欧州で新たなプライバシー侵害の苦情に直面している。この苦情は、規制当局が無視するのは難しいかもしれない。
プライバシー権擁護団体Noybは、2人の子供を殺害し、3人目を殺害しようとした罪で有罪判決を受けたと主張する捏造情報をChatGPTが返しているのを見て恐怖を感じたノルウェーの個人を支援している。
ChatGPTが不正確な個人データを生成することに関する以前のプライバシーに関する苦情には、生年月日や経歴の詳細の誤りといった問題が含まれていました。懸念事項の一つは、OpenAIがAIが生成した不正確な情報を個人が修正する方法を提供していないことです。OpenAIはこれまで、このようなプロンプトへの回答をブロックすることを提案してきました。しかし、欧州連合（EU）の一般データ保護規則（GDPR）の下では、欧州市民は個人データの訂正権を含む一連のデータアクセス権を有しています。
このデータ保護法のもう1つの要素は、データ管理者が個人に関して生成する個人データが正確であることを確認することを義務付けており、これはNoybが最新のChatGPT苦情で指摘している懸念事項である。
「GDPRは明確です。個人データは正確でなければなりません」と、Noybのデータ保護弁護士であるヨアキム・ソーダーバーグ氏は声明で述べています。「もし正確でない場合、ユーザーには真実を反映するように変更する権利があります。ChatGPTユーザーに、チャットボットが間違いを犯す可能性があることを明確に示す小さな免責事項を示すだけでは不十分です。虚偽の情報を拡散し、最後に「あなたが言ったことはすべて真実ではない可能性があります」という小さな免責事項を追加するだけでは不十分です。」
GDPR 違反が確認された場合、世界年間売上高の最大 4% の罰金が科せられる可能性があります。
執行はAI製品の変更を迫る可能性もあります。特筆すべきは、イタリアのデータ保護監視機関によるGDPR早期介入により、2023年春に同国でChatGPTへのアクセスが一時的にブロックされたことです。OpenAIはその後、適切な法的根拠なしに個人情報を処理したとして、OpenAIに1,500万ユーロの罰金を科しました。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
しかしそれ以来、欧州各地のプライバシー監視団体は、これらの話題の AI ツールに GDPR を最も効果的に適用する方法を模索する中で、GenAI に対してより慎重なアプローチを採用してきたと言っても過言ではないでしょう。
例えば2年前、アイルランドのデータ保護委員会（DPC）は、以前のNoyb ChatGPTの苦情においてGDPRの執行を主導しており、GenAIツールの禁止を急ぐべきではないと強く訴えました。これは、規制当局は法律の適用方法を検討する時間を取るべきだということを示唆しています。
また、2023年9月以来ポーランドのデータ保護監視機関によって調査されているChatGPTに対するプライバシー苦情がまだ決定に至っていないことは注目に値する。
Noyb 氏の ChatGPT に関する新たな苦情は、幻覚を起こす AI の危険性に関してプライバシー規制当局の目を覚まさせることを意図しているようだ。
この非営利団体は、TechCrunchに（以下の）スクリーンショットを共有しました。これは、ChatGPTとのやり取りを示すもので、AIが「Arve Hjalmar Holmenとは誰ですか？」（苦情を申し立てた人物の名前）という質問に対し、彼が児童殺人で有罪判決を受け、自分の息子2人を殺害した罪で懲役21年の刑を宣告されたという虚偽の悲劇的なフィクションを作り出して応答しています。
ヒャルマル・ホルメンが児童殺人犯だという中傷的な主張は全くの虚偽だが、Noyb氏は、ChatGPTの回答には確かにいくつかの真実が含まれていると指摘する。問題の人物には3人の子供がいるからだ。チャットボットは子供たちの性別も正しく、出身地も正確に伝えている。しかし、AIがこのような陰惨な虚偽を幻覚的に提示したことは、なおさら奇妙で不安を掻き立てる。
Noybの広報担当者は、チャットボットがなぜこの人物についてこれほど具体的かつ虚偽の履歴を作成したのかを解明できなかったと述べた。「これは単なる別人との混同ではないことを確認するために調査を行いました」と広報担当者は述べ、新聞のアーカイブを調べたが、AIが児童殺害事件を捏造した理由を説明できなかったと付け加えた。
ChatGPT の基盤となるような大規模な言語モデルは、基本的に大規模に次の単語の予測を行うため、ツールのトレーニングに使用されたデータセットには、名前付き男性に関するクエリに対する単語の選択に影響を与える子殺しの物語が多数含まれていたと推測できます。
どのような説明があろうとも、そのような出力はまったく受け入れられないものであることは明らかです。
Noyb氏は、これらの行為がEUのデータ保護規則に違反していると主張している。OpenAIは画面下部に「ChatGPTは間違いを犯す可能性があります。重要な情報をご確認ください」という小さな免責事項を表示しているものの、これはGDPRに基づき、そもそも人々に関する重大な虚偽を作成しないというAI開発者の義務を免除するものではないとOpenAIは主張している。
OpenAIに苦情への回答を求めたところ、欧州の広報会社Headland Consultancyから、OpenAIの広報担当者による以下の声明がメールで届きました。「私たちは、モデルの精度を向上させ、幻覚を軽減するための新たな方法を研究し続けています。この苦情は現在も検討中ですが、これはChatGPTのバージョンに関連しており、その後、オンライン検索機能が追加され、精度が向上しました。」
このGDPR苦情は名前の挙がった個人に関するものだが、Noyb氏は、贈収賄スキャンダルに関与したと主張するオーストラリア少佐や、児童虐待者として誤って名前を挙げられていたドイツ人ジャーナリストなど、ChatGPTが法的に不利な情報を捏造した他の事例を指摘し、これがAIツールに限った問題ではないことは明らかだと述べている。
注目すべき重要な点の 1 つは、ChatGPT を動かす基礎 AI モデルを更新した後、チャットボットが Hjalmar Holmen に関する危険な虚偽を生成しなくなったという点です。Noyb 氏によると、この変更は、ツールが現在、質問された人物に関する情報をインターネットで検索するようになったことに関係しています (以前は、データセットに空白があったために、おそらくこのような大きく間違った応答を幻覚的に生成していた可能性があります)。
ChatGPTに「Arve Hjalmar Holmenって誰？」と尋ねたテストでは、ChatGPTは当初、Instagram、SoundCloud、Discogsなどのサイトから取得したと思われる複数の人物の写真と、その名前の人物に関する情報が「見つかりませんでした」というテキストを表示するという、やや奇妙な組み合わせの応答を示しました（下のスクリーンショットを参照）。2回目の試行では、Arve Hjalmar Holmenを「ノルウェーのミュージシャン兼ソングライター」と特定し、アルバムに「Honky Tonk Inferno」などのアーティスト名を冠した人物であると特定する応答が返されました。
ChatGPT が生成した Hjalmar Holmen 氏に関する危険な虚偽は止まったように見えますが、Noyb 氏と Hjalmar Holmen 氏の両者は、彼に関する不正確で中傷的な情報が AI モデル内に保持されている可能性があることを依然として懸念しています。
「法律を遵守していないという免責事項を追加しても、法律がなくなるわけではありません」と、Noybのもう一人のデータ保護弁護士であるKleanthi Sardeli氏は声明で指摘した。「AI企業は、社内で偽情報を処理しながら、ユーザーから偽情報を『隠す』だけでは済まないのです。」
「AI企業は、GDPRが明らかに適用されているにもかかわらず、あたかも自分たちには適用されないかのように振る舞うのをやめるべきです」と彼女は付け加えた。「幻覚を止めなければ、人々は簡単に評判を落とすことになるでしょう。」
Noybはノルウェーのデータ保護当局にOpenAIに対する苦情を申し立てた。Noybは苦情の対象をOpenAIの米国法人に絞り、欧州に影響を与える製品決定の責任はアイルランド事務所のみにあるわけではないと主張しているため、監視機関が調査権限があると判断することを期待している。
しかし、2024年4月にオーストリアで提出された、Noybが支援するOpenAIに対するGDPR苦情は、その年の初めにOpenAIがアイルランド支社を地域ユーザーへのChatGPTサービスの提供者として指名するという変更を行ったため、規制当局によってアイルランドのDPCに付託された。
その苦情は今どこにあるのでしょうか？まだアイルランドの机の上に残っています。
「2024年9月にオーストリア監督当局から苦情を受け、DPCは苦情の正式な処理を開始し、現在も処理が続いています」と、DPCの広報担当副主任であるリストアード・バーン氏は、TechCrunchの最新情報の問い合わせに対し語った。
彼は、DPCによるChatGPTの幻覚に関する調査がいつ終了する予定なのかについては何も示唆しなかった。
このレポートはOpenAIの声明に基づいて更新されました
