テイラー・スウィフトのディープフェイクは気にしないで、Google は画像作成用の新しい AI 搭載ツール「ImageFX」をリリースします。
GoogleのDeepMindチームが開発したGenAI画像モデルImagen 2を基盤とするImageFXは、プロンプトベースのUIで画像を作成・編集できます。これは、OpenAIのDALL-E 3、Midjourney、MetaのMeta AI搭載Imagine、Microsoft Designerなどのツールと変わりません。しかし、ImageFXのユニークな点は「表現チップ」です。これは基本的に、ユーザーが自分の作品やアイデアの「隣接する次元」を試すことができるキーワード候補のリストです。
「実験と創造性のために設計されたImageFXを使用すると、シンプルなテキストプロンプトで画像を作成し、表現力豊かなチップを使用して新しい方法でプロンプトを簡単に変更できます」とGoogleはブログ投稿に書いています。
しかし、特に最近の出来事を考慮すると、乱用の可能性があるのかどうかはどうなるのでしょうか?
Googleは、ImageFXが意図しない方法で使用されないようにするための措置を講じていると主張している。例えば、暴力的、不快、性的に露骨なコンテンツといった「問題のある出力」を制限するための「技術的安全策」を追加するなどだ。ImageFXには、おそらく著名人と思われる「名前のついた人物」を対象とするプロンプトレベルのフィルターも備わっているが、Googleはプレス資料の中でこの点について特に明確に説明していなかった。
Googleは、「当社は当初からトレーニングデータの安全性に投資してきました」と述べています。「AIの原則に従い、潜在的に有害で問題のあるコンテンツを特定し、軽減するために、広範な敵対的テストとレッドチーム演習も実施しました。」
追加の安全対策として、Google は ImageFX を使用して生成された画像に、画像の編集や切り取りに対して堅牢であるとされるデジタル透かしの SynthID のタグを付けています。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
「SynthIDの透かしは人間の目には見えませんが、識別のために検出可能です」とGoogleはブログ投稿で述べています。「『この画像について』に表示される情報により、Google検索やChromeでその画像を見つけた際に、GoogleのAIツールで生成された可能性があるかどうかが分かります。」
ImageFX は、実験的な AI プロジェクト用の Google の Web アプリである AI Test Kitchen にあります。
画像2を拡大
本日の関連ニュースとして、Google は今週から、次世代 AI 検索エクスペリエンスやマネージド AI サービス Vertex AI ファミリーなど、さらに多くの製品とサービスに Imagen 2 を導入すると発表した。
Imagen 2は、Google Adsのテキスト画像変換機能や、Googleの生産性向上製品群であるGenAIスイートWorkspaceのDuet AIにも採用されていますが、GoogleのSGE（Search Generative Experience）にも搭載されました。昨年10月からGoogle画像検索でユーザー向けの画像生成ツールの提供を開始していたSGEは、今回、画像生成にImagen 2を採用しました。ユーザーが希望する画像の種類を指定すると、SGEの会話型エクスペリエンス内で4つの検索結果が直接表示されます。
Vertex AIでは、Imagen 2はGoogle Cloudのお客様にAPIを通じてご利用いただけます。また、GoogleのAI駆動型チャットボットであるBardからもImagen 2を呼び出すことができるようになりました。
「Imagen 2を使えば、Bardは単純なものから複雑なものまで理解し、幅広い高品質な画像を生成できます」とGoogleは説明しています。「『サーフボードに乗っている犬の画像を作成』のように説明を入力するだけで、Bardはあなたのアイデアを現実のものにするための、カスタムで幅広いビジュアルを生成します。」
関連訴訟は裁判所で進行中で、ベンダー側はフェアユースの原則によって保護されていると主張している。しかし、事態が収束するまでにはしばらく時間がかかるだろう。
一方、Google はこの件に関して沈黙を守ることで安全策をとっている。
カイル・ウィガーズは2025年6月までTechCrunchのAIエディターを務めていました。VentureBeatやDigital Trendsに加え、Android Police、Android Authority、Droid-Life、XDA-Developersといった様々なガジェットブログにも記事を寄稿しています。音楽療法士のパートナーとマンハッタンに在住。
バイオを見る
