生成 AI は当然の論争を伴いながら、業界に混乱をもたらしています。
今月初め、AIを活用したマーケティングコピーのスタートアップ企業Headlimeの創業者ダニー・ポストマ氏が、Jasperに買収されたDeep Agencyというプラットフォームを発表しました。ポストマ氏はこれを「AIフォトスタジオ兼モデルエージェンシー」と表現しています。Deep Agencyは、アート生成AIを用いて「バーチャルモデル」を制作・提供し、月額29ドル（期間限定）からレンタルできます。顧客はモデルをデジタル背景に配置して、写真撮影を実現できます。
「ディープ・エージェンシーって何？ 写真スタジオみたいなものだけど、いくつか大きな違いがある」とポストマ氏は一連のツイートで説明した。「カメラも使わない。生身の人間も使わない。物理的な場所も使わない。…何に使えるの？ ソーシャルメディアのインフルエンサー向けのコンテンツの自動化、マーケターの広告モデル、eコマースの商品写真撮影など、用途はたくさんある」
Deep Agencyはまだ概念実証段階にあり、つまり少しばかり不具合を抱えていると言えるでしょう。モデルの顔には多くのアーティファクトがあり、プラットフォームは意図的かどうかはさておき、体型を生成する際にガードレールを設けています。それと同時に、Deep Agencyのモデル生成は奇妙なほど制御が難しいです。警察官のような特定の衣装を着た女性モデルを生成しようとすると、Deep Agencyでは到底不可能です。
それにもかかわらず、発売に対する反応は迅速で、賛否両論でした。
一部のTwitterユーザーはこの技術を称賛し、衣料品やアパレルブランドのモデルとして活用したいと表明した。一方で、ポストマ氏が他人の写真や肖像を盗み取り、それを利益のために販売するという「極めて非倫理的な」ビジネスモデルを追求していると非難する声もあった。
この分裂は、生成AIをめぐる幅広い議論を反映しています。生成AIは、驚異的な資金を集め続ける一方で、多くの道徳的、倫理的、法的問題を引き起こしています。PitchBookによると、生成AIへの投資額は2023年に426億ドルに達し、2026年には981億ドルに急増すると予測されています。しかし、OpenAI、Midjourney、Stability AIなどの企業は現在、生成AI技術をめぐる訴訟に巻き込まれており、一部の企業は、アーティストの作品を正当な報酬なしに複製しているとして訴訟を起こしています。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
Deep Agency は、その製品の応用とその影響により、特に人々の神経に触れたようです。
コメントの要請に応じなかったポストマ氏は、このプラットフォームが現実世界のモデルや写真家と競合し、ひいては彼らの生活に悪影響を及ぼす可能性を隠そうとはしていない。Shutterstockのような一部のプラットフォームは、AIが生成したアート作品からの収益をアーティストと分配するための基金を設立しているが、ディープ・エージェンシーはそのような措置を講じておらず、その意向も示していない。
偶然にも、ディープ・エージェンシーのデビューからわずか数週間後、リーバイスはデザインスタジオLaLaLand.aiと提携し、AIでカスタマイズされたモデルを制作することで「消費者が自社製品を着用するモデルの多様性を高める」と発表しました。リーバイスは、合成モデルを人間のモデルと併用する予定であり、この動きが採用計画に影響を与えることはないと強調しました。しかし、ファッション業界ではこれまでこうしたモデルが機会を見つけるのが困難であったことを考えると、なぜブランドが求める多様な特性を持つモデルをもっと採用しないのかという疑問が生じました。（ある調査によると、2016年時点でファッション広告に出演するモデルの78%は白人でした。）
TechCrunchとのメールインタビューで、ワシントン大学で倫理的AIを研究する博士課程の学生、オス・キーズ氏は、モデルや写真、そして芸術全般が生成型AIの影響を特に受けやすい分野であると指摘した。その理由は、写真家やアーティストには組織的な力が不足しているからだ。キーズ氏によると、彼らは主に低賃金で、コスト削減を目指す大企業の個人請負業者として働いている。例えばモデルは、高額な代理店手数料（約20%）に加え、航空券、共同住宅、クライアントから仕事を獲得するために必要な販促資料などの経費を負担しなければならないことが多い。
「ポストマのアプリは、もしうまくいけば、既に不安定なクリエイティブ労働者の足元からさらに椅子を奪い、そのお金をポストマに送り込むように設計されている」とキーズ氏は述べた。「これは称賛すべきことではないが、それほど驚くべきことでもない。…事実、社会経済的に見て、このようなツールは利益をさらにコア化し集中させるように設計されているのだ。」
「このようなスタートアップの合法性は完全には明らかではありませんが、多くの人々の失業を狙っていることは明らかです」と、AI倫理学者でオープンリサーチグループ「Knives and Paintbrushes」のメンバーであるマイク・クック氏は、TechCrunchとのメールインタビューで語った。「経済、資本主義、そしてビジネスに関わるより深い問題に取り組まずに、このようなツールの倫理性について語るのは難しいのです。」
Deep Agencyのモデルの学習に自分の作品が使われたと疑うアーティストが、その作品を学習データセットから削除する仕組みがない。これは、アーティストがアート生成AIの学習に作品を提供しないことを選択できるDeviantArtやStability AIといったプラットフォームよりもさらに悪い状況だ。
Deep Agencyは、プラットフォームのモデル構築に貢献したアーティストやその他のクリエイターへの収益分配制度の導入を検討するかどうかについても言及していない。Shutterstockなどの他のベンダーは、AIアートモデルの学習に使用された作品のクリエイターに報酬を支払うため、共同プールから資金を調達する実験を行っている。
クック氏は、データのプライバシーという別の問題を指摘している。
Deep Agencyは、顧客が様々なポーズの人物の画像を約20枚アップロードすることで「デジタルツイン」モデルを作成できる方法を提供しています。ただし、Deep Agencyに写真をアップロードすると、利用規約に記載されているように、ユーザーが明示的に削除しない限り、プラットフォームの高レベルモデルのトレーニングデータに追加されます。
Deep Agencyのプライバシーポリシーには、ユーザーがアップロードした写真の取り扱い方法や保存場所について、プラットフォーム側で具体的な記載が一切ありません。また、Stable Diffusionのようなモデルが、本人の同意なしにディープフェイクヌードを作成したことを考えると、不正行為者が本人の許可なく仮想の双子を作成することを防ぐ手段はなさそうです。これは当然の懸念です。
「利用規約には、『他者が独自のプロンプトを使用して、類似または同一の画像を生成する可能性があることを理解し、承認するものとします』と明記されています。この製品の前提は、誰もが毎回異なるカスタムAIモデルを利用できることなので、これは私にとって非常に面白いことです」とクック氏は述べた。「実際には、他者と全く同じ画像が生成されることや、その写真が他者に提供され、利用される可能性があることを彼らは認めているのです。これらの可能性を多くの大企業が好むとは考えられません。」
Deep Agencyの学習データに関するもう一つの問題は、元のデータセットの透明性の欠如だとキーズ氏は指摘する。つまり、Deep Agencyの学習モデルがどの画像で学習されたのかが不明瞭なのだ（画像内の乱雑な透かしが手がかりとなるものの）。そのため、アルゴリズムのバイアスが生じる可能性が残されている。
画像生成AIにおいて、人種、民族、性別などに基づくステレオタイプ化が見られることが明らかになった研究が増えています。Stability AIの支援を受けて開発された人気のStable Diffusionモデルもその一つです。今月、AIスタートアップのHugging Faceとライプツィヒ大学の研究者らは、Stable DiffusionやOpenAIのDALL-E 2などのモデルは、特に権威ある地位にある人物を描写する場合、白人男性に見える人物画像を生成する傾向があることを実証するツールを公開しました。
Viceのクロエ・シャン氏によると、Deep Agencyは有料サブスクリプションを購入しない限り、女性の画像しか生成しないとのこと。これは最初から問題のあるバイアスです。さらにシャン氏は、このプラットフォームは、ユーザーが事前に生成されたカタログから異なる人種や容姿の女性の画像を選択しても、金髪の白人女性モデルを作成する傾向があると指摘しています。モデルの見た目を変えるには、それほど目立たない追加の調整が必要になります。
「画像生成AIは、そのAIが訓練されたデータの代表性に依存しているため、根本的な欠陥を抱えています」とキーズ氏は述べた。「もしAIが主に白人、アジア人、そして肌の色の薄い黒人で構成されている場合、世界中のあらゆる合成技術をもってしても、肌の色の濃い人々を表現することはできません。」
Deep Agencyには明らかな問題があるにもかかわらず、クック氏は、Deep Agencyや類似のツールがすぐに消滅するとは考えていない。同氏は、この分野には単純に資金が過剰に流入していると言う。そして、それは間違いではない。Deep AgencyやLaLaLand.ai以外にも、ZMO.aiやSurrealといったスタートアップ企業が、倫理観など問題外として、バーチャルファッションモデルを生成する技術に多額のベンチャーキャピタル投資を獲得している。
「Deep Agencyのベータ版を使っている人なら誰でもわかるように、ツールはまだ十分ではありません。しかし、それは時間の問題です」とクック氏は述べた。「起業家や投資家は、このような機会を何とか実現する方法を見つけるまで、頭を悩ませ続けるでしょう。」
