OpenAIはDALL-E 2の待機リストを削除し、誰でも登録できるようにした。

OpenAIは、DALL-E 2を限定ベータ版としてリリースしてから数ヶ月後、本日、AI搭載画像生成システムのウェイティングリストを削除しました。このシステムはベータ版のままですが、誰でも登録して利用を開始できます。価格はウェイティングリスト期間から引き継がれ、初回ユーザーは画像の生成や編集、または既存画像のバリエーション作成に使用できるクレジットを一定量付与されます。

「現在、150万人以上のユーザーがDALL-Eを使って1日200万枚以上の画像をアクティブに作成しています。アーティストやクリエイティブディレクターから作家や建築家まで、約10万人のユーザーがDiscordコミュニティで作品やフィードバックを共有しています」とOpenAIはブログ投稿で述べています。「実使用から学ぶことで、安全システムを改善し、より幅広い利用を可能にしました。」

OpenAIはDALL-E 2をAPI経由ではまだ提供していませんが、ブログ投稿ではテスト中であると説明しています。Stitch Fix、Nestlé、Heinzなどのブランドは、広告キャンペーンやその他の商用利用のためにDALL-E 2を試験運用していますが、今のところはアドホックな形での運用にとどまっています。

以前記事を書いたように、OpenAIの保守的なリリースサイクルは、Stability AIのStable Diffusionをめぐる論争を鎮静化させることを意図しているようだ。Stable Diffusionは、オープンソース形式で制限なく導入可能な画像生成システムである。Stable Diffusionにはオプションの安全対策が組み込まれている。しかし、このシステムは、暴力描写や、ポルノ、あるいは著名人の同意のないディープフェイクといった、一部の人々によって不適切なコンテンツの作成に利用されてきた。

特定のコンテンツカテゴリーに制限はあるものの、既に安定拡散APIを提供しているStability AIは、アンナ・G・エシュー下院議員（カリフォルニア州選出、民主党）が最近、国家安全保障問題担当大統領補佐官（NSA）と科学技術政策局（OSTP）に送った批判的な書簡の対象となった。書簡の中でエシュー議員は、NSAとOSTPに対し、「プラットフォーム上で作成されたコンテンツをモデレートしない」「安全でないAIモデル」のリリースに対処するよう強く求めた。

「私はAIへのアクセスの民主化を提唱しており、安全でないモデルをインターネット上に公開する者が、自らの不注意から利益を得ることを許すべきではないと考えています」とエシュー氏は述べている。「児童ポルノ、誤情報、偽情報の創出といった現実世界に害を及ぼす可能性のある、二重使用ツールは適切に管理されるべきです。」

テッククランチイベント

サンフランシスコ | 2025年10月27日～29日

先週のArs Technicaのレポートで指摘されたように、トレーニングデータにはプライバシーリスクも存在します。記事によると、Stable Diffusionのトレーニングに使用されたデータセットには、多数の写真が隠されており、その中には数千枚に及ぶ可能性のある個人の医療記録も含まれています。LAION自体はファイルの集合体ではなく、ウェブ上の画像を指すURLの集合体であるため、これらの記録を削除するのは非常に困難です。

これに対し、マット・ドライハースト氏やホリー・ハーンドン氏といった技術者たちは、Source+といった取り組みを主導しています。Source+は、人々が自分の作品や肖像をAIの学習目的で利用することを拒否できるようにすることを目的とした標準規格です。しかし、これらの標準規格は任意であり、今後もそうあり続ける可能性が高いため、その潜在的な影響は限定的です。

OpenAIは、DALL-E 2に関する問題を軽減するための対策を講じてきたと繰り返し主張しており、リアルな顔を含む画像のアップロードや、著名な政治家や著名人などの公人の肖像を作成しようとする試みを拒否している。また、同社は、明らかに暴力的、性的、または憎悪的なコンテンツを含む画像を除外するようにフィルタリングされたデータセットを用いてDALL-E 2を学習させたとも述べている。さらにOpenAIは、システムが利用規約に違反するコンテンツを生成しないように、自動監視システムと人間による監視システムを組み合わせて運用していると主張している。

「過去数ヶ月にわたり、当社はコンテンツポリシーに違反する性的、暴力的、その他のコンテンツの作成を阻止するフィルターを強化し、悪用を阻止するための新たな検知・対応技術を構築してきました」と、同社は本日公開したブログ記事で述べています。「DALL-Eのように強力かつ複雑なシステムを責任を持って拡張し、そのあらゆる独創的な利用方法と悪用方法を学ぶには、反復的な導入アプローチが必要でした。」