Snapchatは、AIチャットボットの改良に向け、年齢フィルターや保護者向けの洞察機能などの新しいツールを導入している。
Snapchat が Snapchat+ 加入者向けに GPT 搭載チャットボットをリリースした数日後、ワシントンポスト紙の報道によると、このボットは安全ではない不適切な方法で応答していたことが指摘されました。
スナップ社は、人々が「チャットボットを騙して当社のガイドラインに従わない返答をさせようとしている」ことを知り、新しいツールはAIの返答を抑制しようとするものだと述べた。
同社によれば、新しい年齢フィルターはチャットボットにユーザーの生年月日を伝え、年齢に応じた応答をさせるという。
スナップは今後数週間のうちに、昨年8月にリリースしたファミリーセンターにおいて、お子様とチャットボットのやり取りに関する詳細な情報を保護者に提供する予定です。この新機能では、お子様がチャットボットとどのようにコミュニケーションをとっているか、またその頻度を保護者に知らせることができます。これらのペアレンタルコントロール機能を使用するには、保護者とお子様の両方がファミリーセンターの利用にオプトインする必要があります。
スナップはブログ投稿で、My AIチャットボットは「本当の友達」ではなく、会話履歴を活用して応答を改善していると説明した。
同社によると、ボットが「非順応的」な言葉遣いで返答したのはわずか0.01%だった。Snapchatは、暴力、性的に露骨な表現、違法薬物使用、児童性的虐待、いじめ、ヘイトスピーチ、軽蔑的または偏見のある発言、人種差別、女性蔑視、あるいはマイノリティ集団の疎外といった表現を含む回答を「非順応的」とみなしている。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
同社は、不適切な返答のほとんどは、ボットがユーザーの発言をそのまま繰り返した結果であると述べた。また、サービスを悪用したユーザーに対しては、AIボットのアクセスを一時的にブロックするとした。
Snapchatは、「これらの学習成果を引き続きMy AIの改善に活用していきます。このデータは、My AIの悪用を制限するための新しいシステムの導入にも役立ちます。OpenAIのモデレーション技術を既存のツールセットに追加することで、潜在的に有害なコンテンツの重大性を評価し、Snapchatユーザーがサービスを悪用した場合にMy AIへのアクセスを一時的に制限できるようになります」と述べています。
Snapchatは依然として生成AIツールに非常に積極的です。チャットボットに加え、同社は数週間前にSnapchat+会員向けに、プロンプトに基づいて動作するAI搭載の背景生成ツールを導入しました。
AI搭載ツールの急増を受け、多くの人々が自らの安全とプライバシーを懸念している。先週、人工知能・デジタル政策センター（AI・DPP）と呼ばれる倫理団体は、米国連邦取引委員会（FTC）に書簡を送り、OpenAIのGPT-4モデルの導入を一時停止するよう求めた。同技術は「偏向的で欺瞞的であり、プライバシーと公共の安全に対するリスク」であると述べた。
先月、マイケル・ベネット上院議員（コロラド州民主党）もOpenAI、Meta、Google、Microsoft、Snapに書簡を送り、10代の若者が使用する生成AIツールに対する懸念を表明した。
これらのAIモデルは有害な入力の影響を受けやすく、不適切な応答を出力するように操作される可能性があることは明らかです。テクノロジー企業はこれらのツールを迅速に導入したいと考えるかもしれませんが、悪用を防ぐための十分なガードレールを確保する必要があります。
IvanはTechCrunchで世界の消費者向けテクノロジーの動向をカバーしています。インドを拠点とし、以前はHuffington PostやThe Next Webなどの出版物で勤務していました。
Ivan からの連絡を確認したり連絡を受けたりする場合は、[email protected]にメールを送信するか、Signal の ivan.42 に暗号化されたメッセージを送信してください。
バイオを見る
