今週末、ニューヨーク州バッファローのスーパーマーケットで人種差別的な襲撃事件が発生し、10人が殺害されました。18歳の白人至上主義者の銃撃犯は、Amazon傘下のゲームストリーミングプラットフォームTwitchで襲撃の様子をライブ配信していました。Twitchは暴動開始から2分後に動画を削除しましたが、時すでに遅しでした。FacebookやTwitterは動画を削除すると表明しましたが、現在、テロ攻撃の残忍な映像はFacebookやTwitterなどのプラットフォームで未だに拡散しています。
Facebookでは、動画にフラグを立てた一部のユーザーに対し、コンテンツはFacebookのルールに違反していないとの通知が届いた。同社はTechCrunchに対し、これは誤りだったと述べ、銃撃事件の動画と、他のサイトにホストされている動画へのリンクを削除するために、24時間体制でチームを編成していると付け加えた。また、銃撃犯による人種差別的な暴言や、犯人を称賛するコンテンツのコピーも削除していると述べた。
しかし、Facebookで「バッファロー射撃の映像」というシンプルなキーワードを検索すると、最初の検索結果の一つに、テロリストの映像を54秒間録画した動画が表示されました。TechCrunchはアップロードから1時間後にこの動画を発見し、すぐに報道しました。動画は投稿から3時間後、既に1000回以上再生されていたにもかかわらず、削除されました。
理論上、このようなことは起こるはずがありません。Facebookの担当者はTechCrunchに対し、複数のバージョンの動画と銃撃犯の人種差別的な書き込みを違反コンテンツのデータベースに追加したと述べました。このデータベースは、プラットフォームがそのようなコンテンツを特定、削除、ブロックするのに役立っています。この件についてFacebookに問い合わせましたが、それ以上の詳細は提供されませんでした。
フェイスブックのインテグリティ担当副社長ガイ・ローゼン氏は、火曜日の別の電話会議で同社が動画のコピーの削除に苦労した理由についての質問に答え、「私たちは引き続き学び、プロセスを改良し、将来的には違反コンテンツをより迅速に検出して削除できるようにします」と述べた。
銃撃犯の配信の再投稿もTwitterで簡単に見つかりました。実際、検索バーに「バッファロー ビデオ」と入力すると、「バッファロー ビデオ フル ビデオ グラフィック」「バッファロー ビデオ リーク」「バッファロー ビデオ グラフィック」といった検索候補が表示されました。
攻撃の様子を捉えた複数の動画が2日以上Twitter上で拡散しているのを確認しました。そのうちの1つの動画は、火曜日の午後に確認した時点で26万1000回以上再生されていました。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
Twitterは4月、暴力的な攻撃を行った個人をTwitterから追放するポリシーを制定しました。このポリシーに基づき、Twitterは攻撃に関連するマルチメディアコンテンツやテロリストの「マニフェスト」に含まれる文言を削除する権利も留保しています。
Twitterの広報担当者はTechCrunchに対し、「事件に関連する動画とメディアを削除しています。さらに、加害者が作成したマニフェストやその他のコンテンツを拡散するツイートも削除する可能性があります」と述べた。同社は、こうした「憎悪的で差別的な」コンテンツは「社会にとって有害」であると述べた。
Twitter社はまた、一部のユーザーが攻撃に関連した改変または操作されたコンテンツをアップロードすることで削除を回避しようとしていると主張している。
対照的に、週末の悲劇の動画はYouTubeで見つけるのが比較的困難でした。バッファロー銃乱射事件の動画を検索すると、ほとんどが主要メディアの報道でした。TwitterやFacebookで使用したのと同じ検索キーワードで、銃乱射事件のサムネイルが付いたYouTube動画をいくつか見つけましたが、クリックすると実際には全く関係のないコンテンツでした。TikTokでは、TechCrunchがいくつかの投稿を特定しましたが、動画を視聴できるウェブサイトにユーザーを誘導するものの、実際の動画はアプリで検索しても見つかりませんでした。
Twitch、Twitter、Facebookは、動画の拡散を抑制するため、グローバル・インターネット・フォーラム（GIF）と連携していると発表した。TwitchとDiscordも、事態の捜査にあたる政府当局と連携していることを確認した。銃撃犯は、襲撃前にプライベートDiscordサーバーで銃撃計画の詳細を説明した。
TechCrunchが閲覧した文書によると、バッファロー銃撃犯は、2019年にハレ・シナゴーグで発生した反ユダヤ主義的な銃撃事件の映像がTwitchで30分以上ライブ配信されていたにもかかわらず削除されたため、Twitchで攻撃を配信することにした。犯人はFacebookへの配信も検討したが、ライブ配信を視聴するにはユーザーがログインする必要があると考え、利用を見送った。
Facebookは、アルゴリズムによる検出を逃れた銃乱射事件を、意図せずして配信した事例も存在します。ハレ・シナゴーグ銃乱射事件と同じ年、ニュージーランドのクライストチャーチにある2つのモスクでイスラム恐怖症を背景とした襲撃事件が発生し、50人が死亡しました。この事件は17分間にわたり配信されました。バッファローの銃乱射事件の容疑者を含む少なくとも3人の犯人は、クライストチャーチの銃乱射事件のライブ配信を、人種差別的な攻撃のきっかけとして挙げています。
Facebookはクライストチャーチ銃乱射事件の翌日、事件に関する動画150万本を削除したと発表した。そのうち120万本はアップロード時にブロックされていた。当然ながら、Facebookがなぜこれらの動画のうち30万本を即座に検出できなかったのか、そして検出失敗率が20%に達したのかという疑問が浮かび上がる。
フェイスブック上でバッファロー銃撃事件の動画を見つけるのがいかに簡単だったかを考えると、このプラットフォームにはまだ長い道のりが残されているようだ。
バッファローの悲劇の後、テクノロジーには簡単な答えはない
FacebookのAIは大量殺人を検知できなかった
アマンダ・シルバーリングは、TechCrunchのシニアライターとして、テクノロジーと文化の交差点を専門に執筆しています。Polygon、MTV、Kenyon Review、NPR、Business Insiderなどの出版物にも寄稿しています。SF作家のイザベル・J・キムと共に、インターネット文化に関するポッドキャスト「Wow If True」の共同ホストを務めています。TechCrunch入社前は、草の根活動のオーガナイザー、博物館教育者、映画祭のコーディネーターとして活躍しました。ペンシルベニア大学で英文学の学士号を取得し、ラオスでプリンストン・イン・アジア・フェローを務めました。
暗号化メッセージアプリ「Signal」を使って、@amanda.100 までヒントをお送りください。その他、またはアウトリーチの確認については、[email protected]までメールでお問い合わせください。
バイオを見る
