中国のAIビデオスタートアップが政治的に敏感な画像をブロックしているようだ

中国に拠点を置くスタートアップ企業Sand AIは、オープンライセンスの動画生成AIモデルをリリースし、Microsoft Research Asiaの創設ディレクターである李開復氏をはじめとする起業家から高い評価を得ています。しかし、TechCrunchのテストによると、Sand AIはモデルのホスト版を検閲し、中国の規制当局の怒りを買う可能性のある画像をブロックしているようです。

Sand AIは今週初め、フレームシーケンスを「自己回帰的に」予測することで動画を生成するモデル「Magi-1」を発表しました。同社は、このモデルは競合するオープンモデルよりも物理特性をより正確に捉え、高品質で制御可能な映像を生成できると主張しています。

👀 これが AI で生成されたものだなんて信じられない
🧠 これがオープンソースだなんて信じられない
🎬 これが無料だなんて信じられない

Magi-1ビデオモデルは商業ビデオツールを屈辱した

詳細と例は以下をご覧ください: 👇 pic.twitter.com/zlXRecWeqH

— ファルハン (@mhdfaran) 2025 年 4 月 21

Magi-1は、ほとんどのコンシューマー向けハードウェアでは動作させるには非現実的すぎる。240億ものパラメータを持ち、動作には4～8基のNVIDIA H100 GPUが必要となる。（パラメータとは、モデルが予測を行うために用いる内部変数のことである。）多くのユーザーにとって（筆者も含め）、Sand AIのプラットフォームはMagi-1をテストできる唯一の場所となっている。

このプラットフォームは動画生成を開始するために「プロンプト」画像を必要とするが、すべてのプロンプトが許可されているわけではないことがTechCrunchの調査ですぐに判明した。Sand AIは、習近平国家主席、天安門広場、戦車男、台湾国旗、香港解放を支持する記章などの画像のアップロードをブロックしている。フィルタリングは画像レベルで行われているようで、画像ファイル名を変更してもブロックは回避されなかった。

Sand AIは、政治的にセンシティブな画像の動画生成ツールへのアップロードを阻止している唯一の中国のスタートアップ企業ではない。上海に拠点を置くMiniMaxのジェネレーティブメディアプラットフォームであるHailuo AIも、習近平国家主席の写真をブロックしている。しかし、Sand AIのフィルタリングは特に厳しく、Hailuoは天安門広場の画像を許可している。

Wiredが1月の記事で解説したように、中国のモデルは厳格な情報統制に従うことが義務付けられています。2023年に施行される法律では、モデルが「国家の統一と社会の調和を損なう」コンテンツを作成することを禁じています。これは、政府の歴史的・政治的見解に反するコンテンツと解釈される可能性があります。この規制を遵守するため、中国のスタートアップ企業は、プロンプトレベルのフィルターを使用したり、フィルターを微調整したりすることで、モデルを検閲することがよくあります。