YouTubeは、亡くなった子供や犯罪被害者を「リアルにシミュレートする」AIコンテンツを厳しく取り締まる

YouTubeは、未成年者の死亡や、致命的または暴力的な事件の被害者の死を「リアルに再現」するコンテンツを厳しく取り締まるため、嫌がらせおよびネットいじめに関するポリシーを更新した。Google傘下のYouTubeは、1月16日からこのようなコンテンツの削除を開始すると発表した。

このポリシー変更は、一部の犯罪ドキュメンタリーコンテンツの制作者がAIを用いて死亡または行方不明の子供の肖像を再現している中で行われたものです。こうした不快な事例では、AIを用いて、注目を集めた事件の被害者である子供たちに、子供のような「声」を与え、彼らの死を描写させているのです。

ここ数ヶ月、コンテンツ制作者はAIを活用し、数々の注目を集めた事件のナレーションを担当してきました。その中には、ワシントン・ポスト紙が報じた、イギリスの2歳児ジェームズ・バルガーの誘拐・殺害事件も含まれています。また、リゾート地から行方不明になったイギリスの3歳児マデリン・マッキャンや、カリフォルニアで母親とそのボーイフレンドに拷問され殺害された8歳の少年ガブリエル・フェルナンデスについても、同様のAIナレーションが制作されています。

YouTubeは新しいポリシーに違反するコンテンツを削除し、違反警告を受けたユーザーは1週間、動画、ライブ配信、ストーリーのアップロードができなくなります。違反警告を3回受けると、ユーザーのチャンネルはYouTubeから永久に削除されます。

YouTubeは、AIコンテンツの責任ある開示に関する新たなポリシーと、ディープフェイクの削除をリクエストするための新たなツールを導入してから約2か月後に、今回の変更を行いました。変更点の一つは、ユーザーがリアルに見える改変または合成コンテンツを作成した場合、その旨を開示することを義務付けるものです。YouTubeは、AIの使用を適切に開示しなかったユーザーは、「コンテンツの削除、YouTubeパートナープログラムからの退会、その他のペナルティ」の対象となると警告しています。

さらに、YouTubeは当時、ラベルが付いていても「リアルな暴力」を見せるために使用される一部のAIコンテンツは削除される可能性があると指摘していた。

2023年9月、TikTokはガイドラインを更新し、リアルなシーンを映し出す合成または操作されたメディアを投稿する際にクリエイターにその旨を開示するよう義務付けたことを受け、クリエイターがAI生成コンテンツにラベルを付けられるツールを導入しました。TikTokのポリシーでは、開示されていないリアルなAI画像を削除することが認められています。