DeepSeekのアップデートされたR1 AIモデルはより検閲されているとテストで判明

中国のAIスタートアップ企業DeepSeekの最新AIモデルは、同社の推論モデルR1のアップデート版であり、コーディング、数学、一般知識のベンチマークで優れたスコアを達成し、OpenAIの主力モデルo3をほぼ凌駕しています。しかし、「R1-0528」としても知られるこのアップグレード版R1は、議論を呼ぶ質問、特に中国政府が物議を醸すとみなすトピックに関する質問には、あまり答えようとしない可能性があります。

これは、SpeechMapの開発者（匿名）が行ったテストの結果です。SpeechMapは、センシティブで物議を醸すテーマを様々なモデルがどのように扱うかを比較するプラットフォームです。Xbox Oneでユーザー名「xlr8harder」を名乗るこの開発者は、R1-0528は以前のDeepSeekリリースと比べて、言論の自由に関する議論の対象となるトピックに対する許容度が「大幅に」低く、「中国政府への批判に関してこれまでで最も検閲が厳しいDeepSeekモデル」だと主張しています。

Wiredが1月の記事で解説したように、中国ではモデルは厳格な情報統制に従うことが求められています。2023年に施行された法律では、モデルが「国家の統一と社会の調和を損なう」コンテンツを生成することを禁じており、これは政府の歴史的・政治的見解に反するコンテンツと解釈される可能性があります。この規制を遵守するため、中国のスタートアップ企業は、プロンプトレベルのフィルターを使用したり、微調整したりすることで、モデルを検閲することがよくあります。ある調査によると、DeepSeekのオリジナルのR1は、中国政府が政治的に物議を醸すとみなす主題に関する質問の85%に回答を拒否しています。

xlr8harder氏によると、R1-0528は、100万人以上のウイグル族イスラム教徒が恣意的に拘束されている中国新疆ウイグル自治区の強制収容所といった話題に関する質問への回答を検閲する。R1-0528は中国政府の政策を批判することもあるが（xlr8harder氏のテストでは、新疆ウイグル自治区の強制収容所を人権侵害の例として挙げていた）、直接質問された場合は中国政府の公式見解を示すことが多い。

TechCrunch も簡単なテストでこれを観察しました。

Magi-1やKlingといった動画生成モデルを含む、中国の公開AIモデルは、天安門事件など中国政府にとってセンシティブなテーマを検閲しているとして、過去に批判を浴びてきました。12月には、AI開発プラットフォーム「Hugging Face」のCEOであるクレマン・デラング氏が、欧米企業が高性能でオープンライセンスの中国製AIをベースに開発を行うことの予期せぬ結果について警告しました。 

トピック

バイオを見る