OpenAI、DALL-E 2でユーザーが顔を編集できるように開始

OpenAIは本日、当初この機能を無効化していましたが、DALL-E 2にアクセスできるユーザーが人物の顔をアップロードし、AI搭載の画像生成システムを使用して編集できるようになると発表しました。これまでOpenAIは、ユーザーがフォトリアリスティックな顔写真の編集と共有のみを許可しており、著名人や著名人の写真など、実在の人物を描写する可能性のある写真のアップロードを禁止していました。

OpenAIは、安全システムの改善により、ディープフェイクや性的、政治的、暴力的なコンテンツの作成を企てる試みによる「潜在的な危害」を最小限に抑え、顔編集機能を実現したと主張している。同社は顧客へのメールで次のように述べている。

多くの方から、DALL-Eを使って自分の服装やヘアスタイルを考えたり、家族写真の背景を編集したりするのが懐かしいというお声をいただいています。ある再建外科医は、患者さんに結果を視覚的に理解してもらうためにDALL-Eを使っていたとおっしゃっていました。また、映画制作者からは、人物が登場するシーンの画像を編集して創作プロセスをスピードアップさせたいとのご要望をいただいています。…[私たちは]不正使用を阻止するための新たな検知・対応技術を構築しました。

このポリシー変更は、必ずしも情報漏洩の堰を切るものではない。OpenAIの利用規約では、引き続き、本人の同意を得ずに人物の写真や、ユーザーが権利を有していない画像のアップロードを禁止している。ただし、同社がこれまでこれらのポリシーをどれほど一貫して施行してきたかは不明だ。

いずれにせよ、これはOpenAIのフィルタリング技術の真の試金石となるでしょう。過去には一部の顧客から、過剰でやや不正確だと不満の声が上がっていました。ディープフェイクには、偽の休暇写真から戦争で荒廃した国の大統領まで、実に様々な種類があります。あらゆる新たな不正行為の形態に対応することは、終わりのない戦いとなり、場合によっては非常に大きなリスクを伴うでしょう。

マイクロソフトやKhosla Venturesをはじめとする著名なベンチャーキャピタルの支援を受けるOpenAIは、Stability AIのStable Diffusion（オープンソース形式で制限なく利用可能な画像生成システム）をめぐる論争を避けたいと考えているのは間違いありません。TechCrunchが最近報じたように、顔画像の編集も可能なStable Diffusionは、エマ・ワトソンのような有名人のポルノ的で合意のないディープフェイクを作成するために、一部の人々によって利用されるまでにそれほど時間はかかりませんでした。

これまでのところ、OpenAIは、手加減なしのStability AIに代わる、ブランドフレンドリーで控えめな代替品として自らを位置づけてきました。そして、DALL-E 2の新機能である顔編集機能に関する制約により、同社は現状維持を続けています。