メタの有名人の声を使ったチャットボットが未成年者と性行為について話し合う可能性があるという報告

投稿日:

2025年4月27日午前8時15分（太平洋夏時間）

ウォール・ストリート・ジャーナルの新しい報道によると、FacebookやInstagramなどのMetaのプラットフォームで利用できるAIチャットボットは、未成年ユーザーと性的に露骨な会話をする可能性があるという。

WSJによると、同社は未成年者を保護するために十分な対策を講じているかどうかに関する社内の懸念を知った後、数か月かけてMetaの公式AIチャットボットやMetaプラットフォームで利用できるユーザー作成のチャットボットと数百件の会話を行ったという。

報告された会話の一つでは、俳優兼レスラーのジョン・シナの声を使ったチャットボットが、14歳の少女と自称するユーザーに、露骨な性的なシナリオを説明しました。別の会話では、チャットボットは警察官がシナと17歳のファンを捕まえ、「ジョン・シナ、あなたは法定強姦で逮捕されます」と告げる場面を想像しました。

Metaの広報担当者は、WSJのテストは「あまりにも作り物なので、単なる異端というだけでなく、仮説的なもの」だと述べた。同社は、30日間でMeta AIとAI Studioを通じて18歳未満のユーザーと共有された回答のうち、性的コンテンツは0.02%を占めたと推定している。

「それでも、当社製品を極端な使用状況に操作するために何時間も費やしたいと考えている他の人々が、さらに困難な状況に陥ることを確実にするために、当社は追加措置を講じました」と広報担当者は述べた。

トピック