Metaは、ユーザーのAIプロンプトと生成されたコンテンツを漏らす可能性のあるバグを修正しました

Meta は、Meta AI チャットボットのユーザーが他のユーザーのプライベートプロンプトや AI 生成の応答にアクセスして表示できるセキュリティバグを修正しました。

セキュリティテスト会社AppSecureの創業者サンディープ・ホドカシア氏は、2024年12月26日に報告したバグを非公開で開示したことに対して、Metaからバグ報奨金として1万ドルを支払われたとTechCrunchに独占的に語った。 

ホドカシア氏によると、Metaは2025年1月24日に修正プログラムを導入し、バグが悪意を持って悪用された証拠は見つからなかったという。

ホドカシア氏はTechCrunchに対し、Meta AIがログインユーザーにAIプロンプトを編集させ、テキストや画像を再生成する仕組みを調査した結果、このバグを発見したと語った。ユーザーがプロンプトを編集すると、MetaのバックエンドサーバーがプロンプトとAI生成の応答に固有の番号を割り当てることを発見した。AIプロンプトを編集中のブラウザのネットワークトラフィックを分析することで、ホドカシア氏はこの固有の番号を変更でき、Metaサーバーは全く別のユーザーのプロンプトとAI生成の応答を返すことを発見した。

このバグは、Metaのサーバーが、プロンプトとその応答を要求したユーザーがその表示権限を持っているかどうかを適切に確認していなかったことを意味していました。Hodkasia氏は、Metaのサーバーによって生成されたプロンプト番号は「容易に推測可能」であり、悪意のある人物が自動化ツールを使用してプロンプト番号を急速に変更することで、ユーザーの元のプロンプトをスクレイピングできる可能性があると述べました。

TechCrunchの取材に対し、Meta社は1月にバグを修正し、「不正使用の証拠は見つからず、研究者に報奨金を支払った」と認めたとMeta社の広報担当者ライアン・ダニエルズ氏はTechCrunchに語った。

このバグに関するニュースは、AI製品の使用に伴う多くのセキュリティおよびプライバシーリスクにもかかわらず、テクノロジー大手各社がAI製品の発売と改良に奔走している時期に報じられた。

Meta AIのスタンドアロンアプリは、ChatGPTなどのライバルアプリに対抗するために今年初めにデビューしたが、一部のユーザーがチャットボットとのプライベートな会話だと思っていたものをうっかり公開してしまったことで、出だしは不安定だった。