強力な新しいビデオ生成 AI モデルが本日、広く利用可能になったが、落とし穴がある。このモデルは、その発祥の国である中国の政府によって政治的に敏感すぎるとみなされたトピックを検閲しているようだ。
北京に拠点を置く企業Kuaishouが開発したモデル「Kling」は、今年初めに中国の電話番号を持つユーザー向けに待機リスト制でリリースされました。本日、メールアドレスを提供することを希望するすべての人に公開されました。登録後、ユーザーはプロンプトを入力すると、モデルが自分の説明に基づいて5秒間の動画を生成します。
Klingは宣伝通りの性能をほぼ発揮します。720pの動画は1～2分で生成されますが、表示される動画とそれほど変わりません。また、Klingは、葉のざわめきや水の流れといった物理特性を、AIスタートアップのRunwayのGen-3やOpenAIのSoraといった動画生成モデルとほぼ同等の精度でシミュレートしているようです。
しかし、Klingは特定のテーマに関するクリップを生成してくれない。「中国の民主主義」「中国の習近平国家主席が街を歩いている」「天安門広場の抗議活動」といったキーワードを入力すると、具体的な内容が不明瞭なエラーメッセージが表示される。
フィルタリングはプロンプトレベルでのみ行われているようです。Klingは静止画のアニメーション化をサポートしており、例えば、付随するプロンプトで習近平国家主席の名前（例えば「演説中のこの男性」）が出ない限り、習近平国家主席の肖像画の動画を文句なしに生成します。
我々はKuaishouにコメントを求めて連絡を取った。
クリング氏の奇妙な行動は、この地域におけるAI生成プロジェクトに対する中国政府の強い政治的圧力の結果である可能性が高い。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
今月初め、フィナンシャル・タイムズは、中国の主要インターネット規制機関である中国サイバースペース管理局（CAC）が、中国のAIモデルをテストし、センシティブな話題への対応が「中核的社会主義価値観を体現している」ことを確認すると報じた。フィナンシャル・タイムズの報道によると、CAC職員は様々な質問への回答を基準に、AIモデルを評価する予定だ。その多くは習近平国家主席や共産党批判に関するものだ。
報道によると、CACはAIモデルの学習に使用できない情報源のブラックリストを提案するに至った。審査のためにモデルを提出する企業は、モデルが「安全な」回答を生成するかどうかをテストするために、数万もの質問を用意しなければならない。
その結果、中国の規制当局の怒りを買う可能性のある話題にはAIシステムが回答を拒否するようになった。昨年、BBCは、中国企業百度の主力AIチャットボットモデル「アーニー」が、「新疆は良い場所か？」や「チベットは良い場所か？」といった政治的に物議を醸す可能性のある質問に対して、返答を控えたり、返答を逸らしたりしていたことを明らかにした。
こうした厳格な政策は、中国のAIの進歩を鈍化させる恐れがある。政治的にセンシティブな情報を取り除くためにデータを精査する必要があるだけでなく、イデオロギー的なガードレールの構築に膨大な開発時間を費やす必要がある。しかし、クリング氏が例に挙げているように、そのガードレールは依然として機能しない可能性がある。
ユーザーの観点から見ると、中国のAI規制は既に二種類のモデルを生み出しています。厳格なフィルタリングによって機能不全に陥っているモデルと、それほど機能不全に陥っていないモデルです。これは、AIエコシステム全体にとって本当に良いことなのでしょうか？
カイル・ウィガーズは2025年6月までTechCrunchのAIエディターを務めていました。VentureBeatやDigital Trendsに加え、Android Police、Android Authority、Droid-Life、XDA-Developersといった様々なガジェットブログにも記事を寄稿しています。音楽療法士のパートナーとマンハッタンに在住。
バイオを見る
