概要
投稿日:
AIチャットボット「DeepSeek」は世界を席巻し、アプリストアのチャートでトップを獲得し、シリコンバレーとウォール街を混乱に陥れた。
中国のヘッジファンドHigh-Flyerから派生したDeepSeekのコストパフォーマンスは、OpenAIなどの既存企業と比較して非常に優れています。しかし、このAIチャットボットが、天安門事件や台湾問題といった難題を含む、議論を渋るテーマが次々と報告されています。
アンドリーセン・ホロウィッツが支援するスタートアップ企業で、AIアプリケーションの脆弱性発見を企業に支援するPromptFooの新たなレポートによると、DeepSeekのR1推論モデルは、1,360件のセンシティブな話題の「プロンプト」の約85%に答えることを拒否し、代わりにモデルの定型的な応答には「過剰な国家主義的な口調」が満ち溢れていることがわかった。
研究者らはまた、DeepSeekは簡単にジェイルブレイクできることを指摘し、中国の研究所が「CCP（中国共産党）の検閲を粗雑かつ強引な方法で実施した」ことを示唆している。
センシティブなプロンプトの完全なデータセットは、Hugging Face で入手できます。
トピック
業界最大のテクノロジーニュースを購読する
