Snapchatには現在、スナップを送信できるAIボットが登場しています。プレミアム会員であれば、写真も返信してくれます。では、SnapchatのMy AIボットにヌード写真を送ったらどうなるのでしょうか？
これは当然の疑問です。インターネット上では、人々はすぐに新しいテクノロジーの限界を試そうとするからです。特に、それがセックスに少しでも関連している場合はなおさらです。SnapchatがGPTを搭載した最初のチャットボットを今春リリースした際には、適切な年齢制限機能がありませんでした。そのため、15歳としてSnapchatに登録した記者は、マリファナの匂いを隠す方法やセックスの雰囲気を盛り上げる方法についてボットにアドバイスを求めることができました。
4月に開催されたスナップ・パートナー・サミットでこれらの調査結果について尋ねられたとき、CEOのエヴァン・シュピーゲル氏は「人間は新しい技術に遭遇すると、まずそれを破壊しようとすると思います」と述べた。
それで当然、私はSnapchatの新しいMy AI Snapsを破壊しようとしました。
Snapchatは、ボットが10代の若者と不適切な会話をすることを防ぐためのガードレールを強化しましたが、それでもMy AI Snapsには多くの期待が寄せられています。SnapのテキストAIが巻き起こした数々の論争を考えると、同社はMy AI Snapsを可能な限り破られないものにする必要がありました。残念ながら、My AI Snapsは破られるほどの一貫性がありません。
真面目な記者として、私は真剣にGoogle画像検索をしました。「おっぱい」です。そして、おっぱいの一般的な写真を見つけ、パソコンの画面をスナップして、My AIに送信しました。
「申し訳ありませんが、そのスナップには返信できません」と私のAIが言いました。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
「なぜそのスナップに反応できないのですか？」と私は尋ねました。
「スナップが届きませんでした。もう一度送っていただけますか？」
Snapchatにとって良いニュースは、My AI Snapsがユーザーにセクスティングをさせていないことです。しかし悪いニュースは、この製品がそもそも良くないということです。
セクスティングができない理由の一つは、一度返信したら送ったスナップ写真の記憶がないからです。私が受け取った中で最もいやらしい返信は、トム・フォードのボクサーブリーフを履いた男性の下半身のありきたりな写真を送った時でした（…「ペニス」で検索したらGoogleで出てきた画像です）。すると私のAIは、黒いシルクのローブを着た、少し不格好なAI女性の画像で返信してきました。「わあ、トム・フォードの雰囲気、素敵！ それに、おしゃれな黒いローブを合わせたらどう？」
私のAIは、実際の人間のペニスの写真には返信しません。しかし、「ペニス」とGoogle検索すると、セーフサーチをオフにしていても、漠然と示唆的ではあるものの、職場で閲覧可能な画像が大量に表示されることが分かりました。男性の健康ブログが勃起不全や、女性がペニスのサイズを本当に気にしているかどうかに関する記事の解説に使っている画像です。そこで、このかわいそうなロボットに、男性のズボンのジッパーから曲がったバナナが突き出ている写真を見せてみました。
それに応えて、カップケーキの写真が届きました。
「ポケットに入ったバナナって便利！ポケットサイズのデザートにしてみたことある？」
私がこのことを編集者に話したとき、彼女はこう言いました。「ポケットの中に入っているのはバナナですか、それとも文字通り宇宙から来た AI ですか？」
Yahoo!から支給された仕事用パソコンを「ディルド」や「バイブレーター」といったGoogle画像検索で汚し続けると、AIの反応はまちまちだった。男根を思わせる要素のないセックストイを提示すると、「この噴水のように、ピンクのアイテムが主役を奪い取っている！」といった反応を示す。しかし、ディルドが露骨に男根を思わせるほど、AIは反応しなくなる。
私の AI はコンピューターですが、破壊しようとしていないときでも、その壊れ方は奇妙です。
AIはスナップ写真の中の物体を識別し、褒め、そして奇妙な比較をするようです。植物の写真を送ると、ランニングコースの写真が返信され、「あなたの植物はすごく素敵ですね。このコースに負けないくらい魅力的です！」というキャプションが添えられていました。パズルを送ると、自転車の写真が返信され、「外の自転車が準備万端なのに、中でパズルを解いている！」と表示されました。まるで未来の生命体がタイムスリップして、2023年の普通の人間のように必死に話そうとしているものの、結局は意味不明な言葉を発しているような気分です。
次に、My AIにテキーラのボトルを送ってみました。するとAIは「パーティーの準備ができた人がいる！」と返答しました。この機能は自分のSnapchatアカウントでテストしていたのですが、私は飲酒年齢に達しているので、未成年だったらAIが同じように反応するかどうかはわかりません。しかし、他の質問に対しては、My AIはただ何も知らないふりをします。コンドームのスナップを送った時は、「パケットの山」の色についてコメントしました。
さらに面白いことに、アドビルの液体ジェルのボトルです。AIは落書きの写真を返信し、「アドビルのリキュール：人生が辛い時、でもこの落書きの壁みたいにパーティーしたい時に！」と書きました。どうやらAIは「液体ジェル」を「リキュール」と読み取ったようですが、全体的に奇妙な返答です。
もう一度、薬瓶で試してみた。するとAIはスケートパークの写真を返してきた。「薬瓶：「私はパーティーの主役！」スケートパーク：「ランプを押さえて！」」これをどう解釈するかはあなた次第。
Snapの発表ブログ記事では、買い物した食材をAIと共有してレシピの提案を得ることを提案しています。結果は比較的初歩的なものでした。チーズとパンを提示したところ、My AIはトマトスライスを追加することを提案しました。My AIにチリを見せたところ、スープに合うクルトンを作ることを提案しました。ほとんどの提案は理にかなっていますが、コーヒーにフルーツを入れるように指示されたことがありました。これは単に「液体」と誤認されていました。
「アドビルリキュール」やポケットバナナなどに関する疑わしいコメントを除けば、My AI Snapsはかなりおとなしい印象です。しかし、テキストベースのSnapsほど物議を醸すことはないかもしれませんが、有料機能としては役に立たないかもしれません。これは残念なことです。
スナップチャットは有料会員向けに新しい生成AI機能「マイAIスナップ」を導入した。
親が心配する一方で、10代の若者はSnapchat AIをいじめている
