マイクロソフトはAI生成画像や動画に透かしを入れることを約束

バレンシアガのローマ法王像。偽のペンタゴン爆発。AIが生成した画像と本物を見分けることがますます困難になり、時には悲惨な結果を招くこともある。

解決策は依然として見つかっていない。しかし、マイクロソフトは毎年恒例のBuildカンファレンスで発表した新しいメディア来歴機能で、その試みを行っている。

マイクロソフトによると、プレゼンテーションやポスターなどのデザインを生成し、ソーシャルメディアやその他のチャネルで共有できるCanva風ウェブアプリ「Bing Image Creator and Designer」向けにリリースされる新しいメディア来歴機能により、消費者は画像や動画がAIによって生成されたものかどうかを確認できるようになるという。今後数ヶ月以内に展開予定のこの機能は、暗号化手法を用いて、AIが生成したコンテンツに画像や動画の出所に関するメタデータを付与し、マークと署名を行う。

目に見える透かしほど単純ではありません。署名を読み取るには、サイトはコンテンツの出所と真正性に関する連合（C2PA）の相互運用仕様を採用する必要があります。この仕様は、Adobe、Arm、Intel、Microsoft、そしてビジュアルメディアプラットフォームTruepicの協力を得て策定されました。そうすることで初めて、サイトはコンテンツがAIによって生成された場合、またはデザイナーや画像クリエイターによって変更または作成された場合に、消費者に警告を発することができるようになります。

では、多くの画像生成ツールが同様のメディア来歴標準を採用していない状況で、Microsoftの取り組みは果たして大きな変化をもたらすのだろうか？という疑問が残る。C2PAはAdobeの支援を受けている。Adobeは最近、GoogleのBardチャットボットとの統合を含む、独自の生成AIツール群を発表した。しかし、生成AI分野で有力な存在の一つであるStability AIは、Microsoftが提案するような仕様を採用する意向をごく最近になって示したばかりだ。

標準規格はさておき、Microsoftがメディアの来歴追跡メカニズムを導入するという動きは、生成AIが普及する中での業界全体のトレンドに沿ったものです。5月には、Googleが生成AIモデルによって作成されたビジュアルメディアを識別するために、埋め込みメタデータを使用する予定であると発表しました。また、Shutterstockと生成AIスタートアップのMidjourneyは、コンテンツが生成AIツールによって作成されたことを示すマーカーを埋め込むためのガイドラインを策定しました。