クロードが法的な召喚状を幻覚で見たため、アントロピックの弁護士は謝罪を余儀なくされた。

アンスロピックの代理人弁護士は、同社と音楽出版社との継続中の法廷闘争において、同社のクロードAIチャットボットが作成した誤った引用文を使用していたことを認めた、と北カリフォルニアの裁判所に木曜日に提出された書類で明らかになった。

クロードは「不正確なタイトルと不正確な著者名」を引用文に書き込んだと、ブルームバーグが最初に報じたアンスロピック社の訴状で述べている。アンスロピック社の弁護士は、同社の「手作業による引用チェック」ではこの誤りだけでなく、クロードの幻覚によって引き起こされた他のいくつかの誤りも検出できなかったと説明している。

アントロピック社はこの誤りについて謝罪し、「正当な引用ミスであり、権威の捏造ではない」と述べた。

今週初め、ユニバーサル ミュージック グループをはじめとする音楽出版社の代理人弁護士は、アンスロピックの専門家証人（同社従業員のオリビア・チェン氏）が、クロード氏を利用して偽記事を証言に引用したと非難した。連邦判事のスーザン・ヴァン・クーレン氏は、アンスロピックに対し、これらの申し立てへの回答を命じた。

これは、弁護士が法廷でAIを使用し、その後その判断を後悔した最新の事例です。今週初め、カリフォルニア州の判事は、2つの法律事務所が「偽のAI生成調査」を法廷に提出したとして、彼らを厳しく非難しました。1月には、オーストラリアの弁護士が裁判文書の作成にChatGPTを使用し、チャットボットが誤った引用文を作成したことが発覚しました。

しかし、こうした誤りは、スタートアップ企業が法務業務の自動化を目指して巨額の資金調達を行うことを阻むものではありません。弁護士支援に生成AIモデルを活用するHarveyは、50億ドルの評価額で2億5000万ドル以上の資金調達を目指して協議中であると報じられています。