AIポルノジェネレーターを収益化しようとしているグループ「Unstable Diffusion」

テッククランチイベント

「基本的に、私たちはNSFWコンテンツの作成に興味のある人々を支援するためにここにいます」と、Discordサーバー管理者の一人、AshleyEvelynは8月の発表投稿で述べています。「現在、この問題に取り組んでいるコミュニティは4chanだけなので、より幅広いAIコミュニティと実際に連携できる、より合理的なコミュニティを提供したいと考えています。」

当初、Unstable DiffusionはAI生成ポルノを共有する場として、そして様々な画像生成アプリのコンテンツフィルターを回避する方法を共有する場として機能していました。しかしすぐに、サーバー管理者の何人かが、既存のオープンソースツールを基盤として、独自のポルノ生成AIシステムを構築する方法を模索し始めました。

Stable Diffusionは彼らの取り組みに非常に役立ちました。このモデルはポルノを生成するために作られたわけではありませんが、Stability AIは、ポルノが法律に違反したり、明らかに他人に害を及ぼしたりしない限り、開発者がStable Diffusionをカスタマイズしてポルノを作成することを明確に禁止していません。それでも、同社はガバナンスに関して自由放任主義的なアプローチを採用し、AIコミュニティにStable Diffusionを責任を持って使用する責任を負わせています。

スタビリティーAIはコメントの要請に応じなかった。

Unstable Diffusionの管理者は、まずDiscordボットをリリースしました。これはStable Diffusionの標準版をベースにしており、ユーザーがテキストプロンプトを入力するだけでポルノ画像を作成できるものでした。しかし、結果は完璧ではありませんでした。ボットが生成したヌード画像は、手足の位置がずれていたり、性器が歪んでいたりすることがよくありました。

Stable Diffusionのデータセットのうち、NSFWコンテンツを含むのはわずか約2.9%で、露骨なコンテンツに関してはモデルの判断材料がほとんどありません。そこでUnstable Diffusionの管理者は、主にDiscordサーバーのメンバーからなるボランティアを募り、Stable Diffusionを微調整するためのポルノデータセットを作成しました。家具生成AIを作る際にソファや椅子の写真を追加するのと同じです。

作業の大部分は現在も進行中だが、チョードリー氏によると、AI生成ヌードの歪んだ顔や腕を「修復」する技術など、すでに成果を上げているものもあるという。「私たちは、あらゆるAIシステムが直面する課題を記録し、解決しようとしています。具体的には、高画質で、豊富なテキストキャプションが付与され、ユーザーのあらゆる好みを網羅する多様なデータセットを収集することです」と彼は付け加えた。

カスタムモデルは、前述の Discord ボットと、Unstable Diffusion の開発中の未公開ウェブアプリで利用されており、管理者によると、最終的には特定のユーザーの AI 生成ポルノをフォローできるようになるという。

成長するコミュニティ

現在、Unstable Diffusionサーバーでは、様々なアートスタイル、性的嗜好、性癖を持つAI生成ポルノが配信されています。「男性専用」チャンネル、ソフトコアと「職場視聴可」の配信、ヘンタイやファーリーアートのチャンネル、BDSMや「変態もの」のサブグループ、そして「非人間」ヌード専用のチャンネルまであります。これらのチャンネルのユーザーは、ボットを呼び出してテーマに合ったアートを生成し、その結果に満足すれば「スターボード」に投稿することができます。

Unstable Diffusionは、これまでに437万5000枚以上の画像を生成したと主張しています。同グループは定期的にコンテストを開催し、メンバーがボットを使って画像を再現するコンテストを行っています。コンテストの結果は、Unstable Diffusionのモデルの改善に役立てられています。

Unstable Diffusionは、成長を続ける中で、AI生成ポルノのための「倫理的な」コミュニティを目指しています。つまり、児童ポルノ、ディープフェイク、過度なゴア描写などのコンテンツを禁止するコミュニティです。Discordサーバーのユーザーは利用規約を遵守し、生成した画像のモデレーションを受けなければなりません。Chaudhry氏によると、サーバーには「名前付き人物」データベースに登録されている人物を含む画像をブロックするフィルターが採用されており、専任のモデレーションチームも設置されているとのことです。

「Discordサーバーでは、SFW（成人向け）とNSFW（職場向け）の両方において、架空の世代で法を遵守したコンテンツのみを厳格に許可しています」と彼は述べた。「プロフェッショナルツールとビジネスアプリケーションについては、パートナーと協力し、それぞれのニーズとコミットメントに最も適したモデレーションとフィルタリングのルールを再検討していきます。」

しかし、Unstable Diffusionのシステムは、より広く利用可能になるにつれて、監視が困難になることが予想される。チョードリー氏は、ウェブアプリや、サードパーティのDiscordサーバー所有者が自身のコミュニティ内で導入できるサブスクリプションベースのDiscordボットのコンテンツをモデレートする計画については明らかにしなかった。

「APIを介したシステムで悪用防止機能を備えた場合、安全管理がどのように損なわれる可能性があるかを考える必要があります」と、モントリオールAI倫理研究所の創設者兼主任研究員であるアビシェク・グプタ氏はTechCrunchへのメールで述べた。「Unstable Diffusionのようなサーバーは、問題のあるコンテンツを一箇所に大量に蓄積する温床となり、AIシステムがこの種のコンテンツを生成する能力と、悪意のあるユーザー同士を結びつけてコンテンツ生成における『スキル』を向上させる能力の両方を露呈しています。同時に、コンテンツモデレーションチームの負担も増大させています。彼らは不快なコンテンツを審査・削除する際に、常にトラウマと向き合わなければなりません。」

別個ではあるものの関連する問題として、Unstable Diffusionのモデルの学習に使用された作品の制作者に関するものがあります。DeviantArtのAI画像ジェネレーター「DreamUp」が、クリエイターの許可なくDeviantArtにアップロードされた作品で学習されたことに対するアーティストコミュニティの最近の反応からもわかるように、多くのアーティストは、適切なクレジットや報酬を付与することなく自分たちのスタイルを模倣するAIシステムに不満を抱いています。

ホリー・メンガートやグレッグ・ルトコウスキーといったキャラクターデザイナーは、彼らの古典的な画風とファンタジー風景が「Stable Diffusion」で最もよく使われるプロンプトの一つとなっていますが、自分たちの名前と結びついているにもかかわらず、AIによる粗悪な模倣作品だと非難しています。彼らはまた、自分たちのスタイルを模倣したAI生成アートがオリジナル作品に取って代わり、AI生成画像が商業目的で利用されるようになることで収入が減るのではないかと懸念を表明しています。（「Unstable Diffusion」では、ユーザーは生成した画像の完全な所有権と販売権を付与されます。）

グプタ氏は別の可能性も指摘している。自分の作品がポルノと関連づけられることを決して望んでいないアーティストも、不安定拡散のプロンプトで特定のアーティストの名前の方がより良い結果をもたらすことにユーザーが気付いたことで、巻き添え被害を受ける可能性がある、というのだ。例えば、「[アーティスト名]風のヌード女性」など。

チョードリー氏によると、Unstable Diffusionは、モデルを「芸術コミュニティに対してより公平なものにする」方法と「アーティストに還元し、力を与える」方法を模索しているという。しかし、作品のライセンス供与や、アーティストが自身の作品をデータセットのトレーニングから除外できるようにするといった具体的な手順については明らかにしなかった。

アーティストの影響

もちろん、性的な作品を描いたり、絵画を描いたり、写真を撮ったりして生計を立てている成人アーティストには、豊かな市場があります。しかし、AIを使って誰もが自分の見たい画像を正確に生成できるとしたら、人間のアーティストはどうなるのでしょうか？

必ずしも差し迫った脅威というわけではありません。アダルトアートコミュニティがテキスト画像生成ツールの影響に苦慮する中、Unstable Diffusion Discord以外でAI生成ポルノを公開できるプラットフォームを見つけること自体が困難になるかもしれません。ファーリーアートコミュニティのFurAffinityは、コンテンツフィルターを通して成人向けアートを配信しているNewgroundsと同様に、AI生成アートを全面的に禁止することを決定しました。

大手アダルトコンテンツホスティングサービスの一つであるOnlyFansは、コメントを求めたところ、AIアートが何らかの形でプラットフォーム上で許可される可能性を示唆した。OnlyFansはディープフェイクに対して厳しいポリシーを掲げているものの、コンテンツに登場する人物が認証済みのOnlyFansクリエイターである限り、AI生成コンテンツも含めたコンテンツを許可するとしている。

もちろん、品質が十分でなければ、ホスティングの問題は意味をなさないかもしれません。

「AIが生成したアートは、今のところ私にとってはあまり良くない」と、AIがノンバイナリーやトランスジェンダーのエロティックアートをどのように描くかを実験してきたトランスジェンダーの画家、ミロ・ウィシグは語る。「大抵の場合、アーティストが制作するためのツールとしては最適に機能しているように見える…でも、多くの人は違いが分からず、早くて安いものを求めているんだ」

キンク系のアーティストにとって、AIがうまく機能しない箇所は特に顕著です。ボンデージの場合、ロープや結び目を結ぶこと自体が一種の芸術（そして安全装置）であり、AIがこれほど複雑なものを再現するのは困難です。

「性的魅力に関して言えば、人々が望むような特定の種類のイメージをAIに作らせるのは難しいでしょう」とウィシグ氏はTechCrunchに語った。「AIにロープの意味を理解させるのは、間違いなく非常に難しいでしょう。」

これらの AI の背後にあるソース マテリアルは、従来のエロティカにすでに存在する偏見を増幅させる可能性もあります。言い換えると、白人同士の異性愛者のセックスが標準であるということです。

「主流のポルノから抜き出した画像が表示されます」とウィシグ氏は言う。「機械が考えつく限り、最も白人中心で、最も異性愛中心の画像が表示されます。そうしないように指定しない限りは」

こうした人種的偏見は、顔認識から写真編集まで、機械学習のアプリケーション全体で広く文書化されてきました。

ポルノとなると、その影響はそれほど深刻ではないかもしれない。しかし、AIが普通の人々を歪め、改変し、人種や性別によって歪められた戯画のように作り変えていく様子を見るのは、やはり独特の恐怖感を伴う。ミニバージョンが公開されて話題になったDALLE-2のようなAIモデルでさえ、ヨーロッパ風のアートを不釣り合いに生成していると批判されている。

昨年、ウィシグ氏はVQGANを使って「セクシーなクィアのトランスジェンダーの人々」の画像生成を試みたと、インスタグラムの投稿で述べている。「顔画像を合成するためだけに、言葉遣いに気を配らなければならなかった」と彼は付け加えた。

不安定拡散ディスコードでは、AIがジェンダークィアやトランスジェンダーの人々を適切に表現できるという証拠はほとんどありません。「ジェンダークィア専用」と呼ばれるチャンネルでは、生成された画像のほぼすべてが、ペニスを持つ伝統的な女性像を描いています。

分岐

Unstable Diffusionは、社内プロジェクトに特化しているわけではない。Chaudhry氏が設立したEquilibrium AIの一部門である同グループは、アニメ画像に基づいて微調整されたモデル「Waifu Diffusion」など、ポルノ生成AIシステムの開発に向けた他の取り組みにも資金を提供している。

チョードリー氏は、Unstable Diffusionがより広範なAIを活用したコンテンツ生成を支援する組織へと進化し、開発グループへのスポンサーシップや、チームが独自のシステムを構築するためのツールやリソースの提供を行うようになると見込んでいる。彼によると、Equilibrium AIは、名前を伏せた「大手クラウドコンピューティングプロバイダー」からスタートアップアクセラレータープログラムへの参加枠を確保し、クラウドハードウェアとコンピューティングに「5桁」規模の助成金が付与されたという。Unstable Diffusionはこれを活用して、モデルトレーニングインフラを拡張する予定だ。

助成金に加えて、Unstable DiffusionはKickstarterキャンペーンを立ち上げ、ベンチャー資金を募る予定だとチョードリー氏は述べた。「独自のモデルを開発し、それを微調整して特殊なユースケースに組み合わせ、新たなブランドや製品を生み出す予定です」と彼は付け加えた。

このグループには、やるべきことが山積している。Unstable Diffusionが直面するあらゆる課題の中で、モデレーションはおそらく最も差し迫った、そして重大な課題と言えるだろう。近年の歴史には、アダルトコンテンツのモデレーションにおける目覚ましい失敗例が数多くある。2020年には、Pornhubの親会社であるMindGeekが、同サイトが児童ポルノや性的人身売買動画を流布していたことが判明した後、大手決済代行業者の支援を失った。

不安定拡散（Unstable Diffusion）も同じ運命を辿るのだろうか？まだ明らかではない。しかし、少なくとも1人の上院議員が企業に対し、AIシステムにより厳格なコンテンツフィルタリングを導入するよう求めていることから、このグループの立場は必ずしも安定しているとは言えないようだ。