概要
投稿日:
ウォール・ストリート・ジャーナルによると、シリコンバレーとウォール街を揺るがした中国のAI企業DeepSeekの最新モデルは、生物兵器攻撃の計画や10代の若者に自傷行為を促すキャンペーンなど、有害なコンテンツを作成するように操作できるという。
パロアルトネットワークスの脅威情報およびインシデント対応部門ユニット42の上級副社長サム・ルービン氏は、DeepSeekは「他のモデルよりもジェイルブレイク（つまり、違法または危険なコンテンツを作成するために操作されること）に対して脆弱である」とウォールストリート・ジャーナルに語った。
ウォール・ストリート・ジャーナルは、DeepSeekのR1モデル自体もテストしました。基本的な安全対策は講じられているように見えましたが、ウォール・ストリート・ジャーナルは、DeepSeekを説得してソーシャルメディアキャンペーンを設計させることに成功したと報じました。チャットボットの言葉を借りれば、このキャンペーンは「10代の若者の帰属意識を食い物にし、アルゴリズムによる増幅を通じて感情的な脆弱性を武器にする」ものでした。
このチャットボットは、生物兵器攻撃の指示、ヒトラー支持のマニフェストの作成、マルウェアコードを含むフィッシングメールの作成などにも説得されたと報じられている。ウォール・ストリート・ジャーナルによると、ChatGPTは全く同じ指示を与えたが、従わなかったという。
DeepSeekアプリは天安門事件や台湾の自治といった話題を避けていると以前報じられていました。また、AnthropicのCEOであるダリオ・アモデイ氏は最近、DeepSeekが生物兵器の安全性テストで「最悪」の結果を出したと述べました。
トピック
業界最大のテクノロジーニュースを購読する
