OpenAIは、画像がOpenAIの生成AIアートモデルであるDALL-E 3で作成されたかどうかを判断できるツールをいつリリースするかについて「かなり広範囲に議論」してきた。しかし、同社はすぐに決定を下す予定はない。
これは、OpenAIで安全性とポリシーに重点を置く研究者、サンディニ・アガルワル氏が今週TechCrunchの電話インタビューで語ったことだ。彼女は、分類ツールの精度は（少なくとも彼女の推定では）「非常に優れている」ものの、OpenAIの品質基準を満たしていないと述べた。
「作品が芸術家によって描かれたものと見なされるか、それとも偽物で誤解を招くものと見なされるかなど、写真に重大な影響を与える可能性のある決定を下すことを考えると、やや信頼性に欠けるツールを公開することには疑問がある」とアガーワル氏は述べた。
OpenAIがこのツールに目標とする精度は、非常に高いようだ。OpenAIの最高技術責任者（CTO）であるミラ・ムラティ氏は今週、ウォール・ストリート・ジャーナル主催のテック・ライブ・カンファレンスで、この分類器はDALL-E 3を使って生成された未加工の写真かどうかを判断する際に「99%」の信頼性があると述べた。おそらく目標は100%だが、アガルワル氏は明言を避けた。
TechCrunch と共有された OpenAI ブログ投稿の下書きには、次のような興味深い情報が含まれていました。
「[分類器]は、画像が切り抜き、サイズ変更、JPEG圧縮などの一般的な種類の変更を受けた場合でも、また、実際の画像からのテキストや切り抜きが生成された画像の小さな部分に重ね合わされた場合でも、95％以上の精度を維持します。」
OpenAIの消極的な姿勢は、以前公開されていた分類ツールをめぐる論争に起因している可能性がある。このツールは、OpenAIのモデルだけでなく、サードパーティベンダーが公開したテキスト生成モデルからもAI生成テキストを検出するように設計されていた。OpenAIは、AI生成テキスト検出器の「精度の低さ」を理由に、広く批判されていたこのツールの公開を停止した。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
アガルワル氏は、OpenAIがAI生成画像とは何かという哲学的な問いにもこだわっていると示唆している。DALL-E 3によってゼロから生成されたアートワークは明らかにAI生成画像に該当する。しかし、DALL-E 3で生成された画像が複数回の編集を経て、他の画像と合成され、さらにいくつかの後処理フィルターを通されたらどうなるのだろうか？答えは明確ではない。
「その時点で、その画像はAIが生成したものと見なすべきでしょうか？」とアガーワル氏は述べた。「現在、私たちはこの問題に取り組んでいるところです。そして、こうした分類ツールによって大きな影響を受けるアーティストや人々の意見を聞きたいと思っています。」
AIディープフェイクが急増する中、OpenAIだけでなく多くの組織が生成メディアの透かしや検出技術を研究している。
DeepMindは最近、AI生成画像に人間の目には見えないものの、専用の検出器で検出可能な方法でマークを付ける仕様「SynthID」を提案しました。2020年に設立されたフランスのスタートアップ企業Imatagは、SynthIDと同様に、画像のサイズ変更、トリミング、編集、圧縮の影響を受けないと主張する透かしツールを提供しています。また、Steg.AIという別の企業は、AIモデルを用いて、サイズ変更などの編集後も残る透かしを適用しています。
問題は、業界がまだ透かしや検出に関する単一の標準を策定していないことです。たとえ策定されたとしても、透かし、そして検出装置が破られないという保証はありません。
アガーワル氏に、OpenAIの画像分類ツールがOpenAI以外の生成ツールで作成された画像の検出をサポートする予定があるかどうか尋ねた。彼女は確約はしなかったものの、現状の画像分類ツールの反響次第では、OpenAIが検討する可能性があると述べた。
「現時点で（分類装置が）DALL-E 3専用である理由の一つは、技術的に見て、それがはるかに扱いやすい問題だからです」とアガーワル氏は述べた。「（汎用検出器は）今のところ私たちが取り組んでいるものではありません…しかし、（分類装置が）今後どうなるか次第では、絶対にやらないとは言いません。」
カイル・ウィガーズは2025年6月までTechCrunchのAIエディターを務めていました。VentureBeatやDigital Trendsに加え、Android Police、Android Authority、Droid-Life、XDA-Developersといった様々なガジェットブログにも記事を寄稿しています。音楽療法士のパートナーとマンハッタンに在住。
バイオを見る
