ユーザーがさまざまなAIキャラクターを作成し、電話やテキストで会話できるスタートアップ企業のCharacter AIは、未成年ユーザーを危害から守れなかったとして一連の訴訟や批判を受け、火曜日、10代のユーザーの安全性を高めるために新しいペアレンタル・スーパーバイザー・ツールを展開すると発表した。
キャラクターAIは、保護者や親御さんに毎週メールでお子様のアプリ上でのアクティビティの概要をお知らせします。メールには、お子様がアプリやウェブ上で過ごす平均時間、各キャラクターとの会話時間、そしてその週に最も交流したキャラクターが表示される予定です。
スタートアップ企業によると、このデータは、プラットフォーム上での10代の子供たちの行動習慣について、保護者に洞察を提供することを目的としている。保護者自身がチャットに直接アクセスすることはできないと明記されている。
訴訟を受け、同社は昨年、18歳未満のユーザー向けの専用モデル、利用時間通知、AI搭載キャラクターとチャットしていることをユーザーに知らせる免責事項などの安全対策を強化した。また、10代の若者向けに新たな分類器を作成し、センシティブなコンテンツの入出力をブロックした。
今年初め、この新興企業は、同社が10代の若者の自殺に関与したとする訴訟の却下を求める申し立てを行った。
トピック
IvanはTechCrunchで世界の消費者向けテクノロジーの動向をカバーしています。インドを拠点とし、以前はHuffington PostやThe Next Webなどの出版物で勤務していました。
Ivan からの連絡を確認したり連絡を受けたりする場合は、[email protected]にメールを送信するか、Signal の ivan.42 に暗号化されたメッセージを送信してください。
バイオを見る
