Googleがバグ報奨金プログラムに生成AIの脅威を追加

Google は脆弱性報奨プログラム (VRP) を拡張し、生成 AI に特有の攻撃シナリオを追加しました。

記事の公開に先立ち、GoogleはTechCrunchに共有した発表の中で、「VRPの拡大は、AIの安全性とセキュリティに関する研究を奨励し、潜在的な問題を明らかにし、最終的にはAIを誰にとってもより安全なものにするだろうと考えています」と述べた。

Google の脆弱性報奨プログラム (またはバグ報奨金プログラム) は、セキュリティ上の欠陥を発見し、責任を持って開示した倫理的なハッカーに報酬を支払います。

生成AIによって不公平な偏見やモデル操作の可能性など新たなセキュリティ問題が明らかになることから、Googleは受け取ったバグをどのように分類し報告すべきかを再考しようとしていると述べた。

このテクノロジー大手は、新たに結成されたAIレッドチームの調査結果を活用してこれを実行していると述べている。レッドチームは、国家や政府系グループからハクティビスト、悪意のある内部関係者まで、様々な敵をシミュレートし、テクノロジーのセキュリティ上の脆弱性を探し出すハッカー集団である。同チームは最近、ChatGPTやGoogle Bardといった生成AI製品の基盤となるテクノロジーに対する最大の脅威を特定するための演習を実施した。

研究チームは、大規模言語モデル（LLM）がプロンプト・インジェクション攻撃に対して脆弱であることを発見しました。例えば、ハッカーがモデルの挙動に影響を与える敵対的なプロンプトを作成する攻撃です。攻撃者はこの種の攻撃を利用して、有害または不快なテキストを生成したり、機密情報を漏洩したりする可能性があります。また、研究チームは、トレーニングデータ抽出と呼ばれる別の種類の攻撃についても警告しています。この攻撃では、ハッカーが逐語的にトレーニング例を再構成し、データから個人を特定できる情報やパスワードを抽出することができます。