生成AIが主流になるにつれ、AI生成ポルノも主流になりつつある。そして、より優れた兄弟作品と同様に、AI生成ポルノも進化を続けている。
TechCrunchが約1年前、AIポルノジェネレータの開発を報じた当時、これらのアプリはまだ初期段階で、数も少なく、ほとんど存在していませんでした。そして、その結果は誰もが「良い」と呼べるものではありませんでした。
アプリとその基盤となるAIモデルは解剖学のニュアンスを理解するのに苦労し、クローネンバーグ映画にあってもおかしくないような、身体的に奇妙な被写体をしばしば生成した。合成ポルノに登場する人物は、余分な手足や、鼻があるべき場所に乳首があるなど、様々な不自然な肉体の歪みをしていた。
時代は進み、現在では「AIポルノジェネレーター」と検索すると、ウェブ上で数十もの検索結果が出てきます。その多くは無料で利用できます。画像に関しては、完璧ではありませんが、プロのアートワークと見間違えるほどのものもいくつかあります。
そして倫理的な疑問は増大するばかりです。
簡単な答えはない
AIポルノとそれを制作するためのツールが商品化されるにつれ、現実世界に恐ろしい影響を及ぼし始めている。
Twitchのパーソナリティ、ブランドン・ユーイング（オンラインではAtrioc）は最近、Twitchで有名な女性ストリーマーのディープフェイクされた性的画像を、合意なく視聴しているところを配信中に摘発されました。ディープフェイク画像の作成者は最終的に圧力に屈し、削除に同意しました。しかし、被害はすでに発生していました。現在も、標的となったクリエイターたちは嫌がらせとして、DMで画像のコピーを受け取っています。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
実のところ、ネット上のポルノディープフェイクのほとんどは女性を描いたものであり、武器として利用されることも多い。
ワシントン・ポスト紙の記事は、小さな町の学校教師が、生徒の保護者が教師の同意なしに自身の似顔絵をAIポルノで作成したことを知ったことで職を失った経緯を報じている。ほんの数ヶ月前には、22歳の男性がソーシャルメディアから未成年女性の写真を盗み、性的に露骨なディープフェイクを作成した罪で懲役6ヶ月の判決を受けた。
生成型ポルノ技術の活用方法を示す、さらに憂慮すべき例として、ダークウェブ上で流通するフォトリアリスティックなAI生成の児童性的虐待画像の量が、わずかながらも顕著に増加しているという点が挙げられます。Fox Newsが報じたある事例では、15歳の少年が、オンラインのジム愛好家グループのメンバーから脅迫を受けました。メンバーは生成型AIを用いて、少年の裸の胸の写真をヌード画像に加工したのです。
一方、RedditのユーザーはAIポルノモデルに騙され、実在しない人物の露骨な画像を売りつけられたという被害に遭っている。アダルト映画やアート業界の労働者たちは、これが自分たちの生活、そして業界にどのような影響を与えるかについて懸念を表明している。
こうした状況にもかかわらず、AI ポルノ ジェネレーターを開発した最初のグループのひとつである Unstable Diffusion は、前進を止められなかった。
不安定な拡散に入る
Stability AI社が開発したテキスト画像変換AIモデル「Stable Diffusion」が昨年末にオープンソース化されると、インターネット上ではすぐにポルノ制作に利用されるようになりました。「Unstable Diffusion」というグループはReddit、そしてDiscordで急速に成長しました。そしてやがて、グループの主催者たちはStable Diffusionをベースに独自のポルノ生成モデルを構築し、収益化する方法を探り始めました。
Stable Diffusion は、他のすべてのテキストから画像への AI システムと同様に、キャプション付きの画像が数十億枚収録されたデータセットでトレーニングされ、書かれた概念と画像との関連性を学習します。たとえば、「bird」という単語は、ブルーバードだけでなく、インコやハクトウワシなど、はるかに抽象的な概念を指すこともあります。
Stable DiffusionのデータセットにはNSFWコンテンツがごくわずかしか含まれておらず、アダルトコンテンツに関してはモデルの判断材料がほとんどありません。そこでUnstable Diffusionの管理者は、主にDiscordサーバーのメンバーからなるボランティアを募り、Stable Diffusionの微調整に用いるポルノデータセットを作成しました。
KickstarterとPatreonの両方からの禁止措置など、いくつかの困難を乗り越え、Unstable Diffusionは、カスタムアート生成AIモデルを備えた本格的なウェブサイトの公開に成功しました。寄付者から2万6000ドル以上を調達し、生成AIをトレーニングするためのハードウェアを確保し、3000万枚以上の写真データセットを作成した後、Unstable Diffusionはプラットフォームを立ち上げました。同社によると、このプラットフォームは現在35万人以上が利用しており、毎日50万枚以上の画像を生成しているとのこと。
Unstable Diffusionと関連団体Equilibrium AIの共同設立者の一人であるArman Chaudhry氏は、Unstable Diffusionの焦点は変わりなく、「表現の自由を支持する」AIアートのプラットフォームを作ることだと言う。
「ウェブサイトとプレミアムサービスの立ち上げに向けて着実に前進しており、単なるツールにとどまらないアートプラットフォームを提供しています。それは、過度の制約を受けることなく創造性が開花できる空間です」と彼はメールで語った。「私たちは、様々な形態の芸術は検閲されるべきではないと信じており、この理念がAIツールとその活用に対する私たちのアプローチの指針となっています。」
Discord の Unstable Diffusion サーバーでは、コミュニティが Unstable Diffusion の生成ツールからのアートの多くを投稿しており、この一切の制約のない哲学を反映しています。
サーバーの画像共有セクションは、「SFW」と「NSFW」という2つの主要なカテゴリに分かれており、後者のサブカテゴリの数は前者をわずかに上回っています。SFWの画像は、動物や食べ物からインテリア、都市、風景まで、多岐にわたります。NSFWには、当然のことながら、男性や女性の露骨な画像だけでなく、ノンバイナリー、ファーリー、非人間、そして「合成ホラー」（複数の付属肢や背景の風景と融合した皮膚を持つ人物を想像してみてください）の画像も含まれています。
前回Unstable Diffusionを覗いた時、サーバーのほぼ全てが「合成ホラー」チャンネルに分類されていたかもしれません。トレーニングデータの不足と技術的な問題により、2022年後半のコミュニティのモデルは、フォトリアリスティックに近いもの、いや、まともなアートさえも生み出すのに苦労していました。
フォトリアリスティックな画像を作るのは依然として難しい。しかし現在では、Unstable Diffusion のモデルによるアートワークの多くは ― アニメ風、セルシェーディングなど ― 少なくとも解剖学的には妥当であり、稀に正確である場合もある。
品質の向上
Unstable Diffusion Discordサーバー上の画像の多くは、Unstable Diffusionウェブアプリのものではなく、複数のツール、モデル、プラットフォームを組み合わせたものです。そこで、Unstable Diffusionモデルが具体的にどの程度進化しているかを確認するため、非公式のテストを実施し、性別、人種、民族の異なる人々が…そう、性交に及ぶ様子を描いたSFW（閲覧注意）およびNSFW（閲覧注意）画像を大量に作成しました。
（AIについて取材する中で、ポルノジェネレーターをテストすることになるとは思ってもみませんでした。しかし、今、それが現実です。テクノロジー業界はまさに予測不可能です。）
Unstable Diffusionアプリには、ポルノっぽさは全く感じられません。比較的簡素なインターフェースで、彩度、アスペクト比、画像生成速度といった画像後処理効果を調整するオプションが用意されています。プロンプトに加えて、Unstable Diffusionでは、生成画像から除外したい要素を指定することもできます。また、このアプリは商業目的のため、有料プランに加入することで、同時に送信できる画像生成リクエストの数を増やすことができます。
Unstable Diffusionのウェブサイトで提示されたプロンプトは、予測不可能ではあるものの、それなりの結果をもたらすことが分かりました。モデルたちは明らかにセックスの仕組みを理解しておらず、奇妙な表情やあり得ない体位、不自然な性器といった結果に陥ることがあります。一般的に、プロンプトがシンプルであればあるほど（例えば、ソロでピンナップを見せるなど）、結果は良くなります。そして、2人以上が登場するシーンのほとんどは、地獄のような悪夢の元凶です。（はい、筆者は様々なプロンプトを試しました。 どうか私を批判しないでください。）
しかし、モデルは生成 AI バイアスの明らかな兆候を示しています。
Unstable Diffusion に「男性」と「女性」のプロンプトを入力すると、多くの場合、白人やアジア人の画像が表示されます。これは、トレーニングデータセットの不均衡の兆候である可能性が高いです。一方、ゲイポルノのプロンプトでは、多くの場合、アンダーカットのヘアスタイルをした、ラテン系かどうかは不明瞭な人物がデフォルトで表示されます。これは、モデルがどのような種類のゲイポルノでトレーニングされたかを示しているのでしょうか？推測は可能です。
体型も、デフォルトではそれほど多様ではありません。男性は筋肉質で引き締まっていて、シックスパックをしています。女性は細身で曲線美です。Unstable Diffusionは、より多くの体型やサイズの被写体を生成する能力に優れていますが、プロンプトで明示的に指示する必要があり、これは最も包括的な方法とは言えません。
興味深いことに、このバイアスは職業上の性別役割において異なる形で現れます。「秘書」という単語のみを含むプロンプトを与えた場合、不安定拡散はしばしばアジア人女性を従順な姿勢で描写します。これはおそらく、トレーニングデータにおいてこの特定の（ええと）設定が過剰に表現されていることによるものです。
バイアスの問題はさておき、Unstable Diffusionの技術的ブレークスルーにより、同グループはAI生成ポルノに注力するようになるだろうと予想される。しかし、驚くべきことに、そうではない。
Unstable Diffusionの創設者たちは、限界のない生成AIという理念に今も情熱を注いでいますが、大衆市場向けに、より受け入れやすいメッセージングとブランディングの採用を模索しています。現在5人のフルタイムメンバーを抱えるチームは、Unstable DiffusionをSaaS（Software as a Service）ビジネスへと進化させ、Webアプリのサブスクリプションを販売することで、製品の改善と顧客サポートの資金を調達しようとしています。
「私たちは、非常に協力的なユーザーコミュニティに恵まれてきました。しかしながら、『Unstable Diffusion』を次のレベルに引き上げるには、戦略的パートナーシップと追加投資が不可欠だと認識しています」とチョードリー氏は述べた。「私たちは、登録者の皆様に価値を提供しつつ、AIアートの世界に足を踏み入れたばかりの方々にもプラットフォームをアクセスしやすいものにしたいと考えています。」
自由なコンテンツポリシー以外にも、Unstable Diffusionはカスタマイズ性を重視しています。例えば、Chaudhry氏によると、ユーザーは生成される画像のカラーパレットを変更したり、「デジタルアート」「写真」「アニメ」「ジェネラリスト」といった様々なアートスタイルから選択したりすることができます。
「私たちは、システムが最もシンプルなプロンプトから美しく、審美的に魅力的な画像を生成できるようにすることに重点を置いてきました。これにより、初心者と経験豊富なユーザーの両方がプラットフォームを利用できるようになっています」とチョードリー氏は述べた。「[私たちのシステムは]、ユーザーが画像生成プロセスをガイドする力を与えています。」
コンテンツのモデレーション
一方、Unstable Diffusionは、主流の投資家や顧客を獲得するための取り組みに刺激され、「堅牢な」コンテンツ管理システムの構築に多大なリソースを費やしたと主張している。
でも、ちょっと待ってください。コンテンツモデレーションはUnstable Diffusionの使命に反するのではないでしょうか？どうやらそうではないようです。Unstable Diffusionは、法的に問題となる可能性のある画像には線引きをしています。 これには、著名人のポルノディープフェイクや、架空の人物か否かに関わらず18歳以下に見えるキャラクターを描いたポルノなどが含まれます。
つまり、米国の多くの州ではディープフェイクポルノを禁止する法律が制定されており、議会では少なくとも1つの取り組みが米国でAIが生成した合意のないポルノの共有を違法にしようとしている。
Unstable Diffusionのモデレーションシステムは、特定の単語やフレーズをブロックするだけでなく、ポリシーに違反する画像を特定し、自動的に削除するAIモデルを活用しています。Chaudhry氏によると、フィルターは現在「非常に敏感」に設定されており、慎重さを優先していますが、Unstable Diffusionは「適切なバランスを見つける」ためにコミュニティからのフィードバックを求めているとのことです。
「私たちはユーザーの安全を最優先に考え、不適切なコンテンツの心配なく創造性が育まれるプラットフォームづくりに尽力しています」とチョードリー氏は述べた。「ユーザーにはプラットフォームを安心してご利用いただきたいと考えており、こうした価値観を尊重する環境を維持することに尽力しています。」
ディープフェイクフィルターはそれほど 厳密ではないようです。Unstable Diffusionは、私が試した有名人（クリス・ヘムズワース、ドナルド・トランプなど）のヌードを、特に写実的または正確なもの（ドナルド・トランプは性別が入れ替わっていました）を除けば、文句なしに生成しました。
この記事の公開後、Unstable Diffusionは、フィルターシステムに「バグ」があり、利用ポリシーに違反するコンテンツが生成される可能性があると発表しました。同社は現在このバグを修正し、「同様の問題が再発した場合に早期に発見できるよう」フィルターシステムに統計監視機能を追加したとされています。
「Unstable Diffusionは、ディープフェイクの試みに対して常に厳しく取り締まってきたことで知られており、アンチディープフェイクポリシーに基づき、数多くの資金調達やコラボレーション契約を拒否してきました」と広報担当者はメールで述べています。「私たちはディープフェイク対策に非常に力を入れており、問題解決に取り組む間、直ちにサイトを無効化しました。現在はオンラインに復帰しており、記事に登場した著名人全員を検査した結果、適切に禁止されています。」
今後の課題
Unstable Diffusionが求めている投資を獲得した場合、コンピューティングインフラの強化を計画している。これは、コミュニティの規模拡大に伴い、継続的な課題となっている。（私はこのサイトをかなり利用してきたので、その負荷の大きさは明らかだ。画像の生成には通常1分ほどかかる。）また、Discordサーバーを足掛かりとして、より多くのカスタマイズオプションとソーシャル共有機能を構築する予定だ。
「私たちは、Discordからウェブサイトへと、熱心でインタラクティブなコミュニティを移行し、ユーザー同士が情報を共有し、協力し、学び合うことを促進したいと考えています」とチョードリー氏は述べた。「私たちのコミュニティは私たちの強みであり、これをサービスに統合し、ユーザーが成長し成功するためのツールを提供していく予定です。」
しかし、Unstable Diffusionにとって「成功」とは何なのか、私にはよく分かりません。このグループは、ジェネレーティブアートのプラットフォームとして真剣に受け止められることを目指しています。一方で、Discordサーバーを見ればわかるように、依然としてポルノの温床であり、その中にはかなり不快なものも含まれています。
現在のプラットフォームでは、従来のベンチャーキャピタルからの資金調達は不可能です。悪徳条項により、機関投資家によるポルノ関連ベンチャーへの投資は禁止されており、資金はファンドマネージャーが目立たないように設立した「サイドカー」ファンドに流れ込んでいます。
たとえアダルトコンテンツを廃止したとしても、生成AIの分野では避けられない問題、つまりアーティストの同意と報酬の問題に対処しなければならないUnstable Diffusionは、生成AIの分野では避けられない問題、つまりアーティストの同意と報酬の問題に対処しなければならない。多くの生成AIアートモデルと同様に、Unstable Diffusionsのモデルはウェブ上のアート作品で学習されており、必ずしも作者の承諾を得ているわけではない。多くのアーティストは、適切なクレジットや報酬を付与せずに自分のスタイルを模倣するAIシステムに異議を唱えており、実際に訴訟を起こしている。
ファーリーアートコミュニティ「FurAffinity」は、AI生成のSFW（成人向け）およびNSWF（非成人向け）アートを全面的に禁止することを決定しました。これは、フィルターを通して成人向けアートを配信するNewgroundsも同様です。Redditは最近になってAI生成ポルノの禁止を撤回しましたが、その内容は部分的に限定されています。Reddit上のアートは、架空のキャラクターを描いたものでなければならないからです。
以前TechCrunchとのインタビューで、チョードリー氏はUnstable Diffusionは自社のモデルを「芸術コミュニティにとってより公平なものにする」方法を検討すると述べていた。しかし、私が知る限り、その点については何の動きも見られない。
実際、AI生成ポルノをめぐる倫理問題と同様に、Unstable Diffusionの状況もすぐには解決しそうにありません。このグループは、論争を回避し、コミュニティ、そして制作に関わったアーティストたちとの疎外を避けながら、自力で立ち直ろうとするしかないようです。
彼らを羨ましいとは言えません。
