オンライン コミュニティのモデレートは難しく、感謝されないことも多い仕事です。また、それがサイロ内で行われると、さらに難しくなります。
Twitchでは、相互接続されたチャンネル間で、既に非公式に、締め出したいユーザーに関する情報を共有しています。同社は現在、チャンネル間で禁止リストを交換できる新しいツールを導入し、このアドホックな慣行を正式なものにしています。これにより、コミュニティは、常習的な嫌がらせをするユーザーや、問題を引き起こす前に彼らを締め出すための協力を呼びかけています。
TechCrunchとのインタビューで、Twitchのプロダクト担当副社長アリソン・ハフマン氏は、コミュニティモデレーターに可能な限り多くの情報を提供することで、彼らの力を強化したいと考えていると説明しました。ハフマン氏によると、Twitchはモデレーターに対し「徹底的な」インタビューを実施し、彼らがより効果的に活動し、コミュニティをより安全にするために必要なことを把握してきたとのことです。
モデレーターは、即座にたくさんの小さな決断を下す必要がありますが、最も大きな決断は通常、どのユーザーが善意で行動しているのか (意図的に問題を引き起こしているわけではないのか)、どのユーザーがそうではないのかを判断することです。
「もしあなたが見かけた人が『ああ、これはちょっと下品なメッセージだ。この人はここに来たばかりなのか、それとも悪意があるのか』と思ったとしても、もしその人があなたの友人のチャンネルの1つで禁止されていたら、『そうだな、この人はこのコミュニティにふさわしくない』と判断するのは簡単だ。そうすれば、その判断も容易になる」とハフマン氏は語った。
「そうすることで、モデレーターの精神的な負担が軽減されるだけでなく、コミュニティにふさわしくない人物をより効率的にコミュニティから排除できるようになります。」
クリエイターダッシュボードでは、クリエイターとチャンネルモデレーターは、他のチャンネルに禁止ユーザーのリスト交換を依頼できます。このツールは双方向なので、他のストリーマーのリストをリクエストしたチャンネルも、そのリストを共有します。チャンネルは、すべての禁止リスト共有リクエストを受け入れるか、Twitchアフィリエイト、パートナー、相互フォローチャンネルからのリクエストのみを許可するかを選択できます。すべてのチャンネルは最大30のチャンネルと禁止リストを交換できるため、除外したいユーザーの強力なリストを作成できます。また、チャンネルはいつでもリストの共有を停止できます。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
チャンネルは、これらの共有リストを通じて発見したアカウントを自動的に監視するか制限するかを選択できます。デフォルトでは制限が適用されます。「監視対象」のユーザーはチャットを続けることができますが、行動を厳しく監視するためにフラグが付けられ、最初のメッセージは赤いボックスで強調表示され、他に禁止されているアカウントも表示されます。チャンネルはそこから、そのユーザーを完全に禁止するか、許可して「信頼できる」ステータスに切り替えるかを選択できます。
Twitchの最新のモデレーションツールは、チャンネルが、迷惑行為を起こす可能性はあるものの、明らかに悪質な行為を禁じる同社のより広範なガイドラインに違反することはないユーザーに対して、自らのルールを強制執行できる興味深い手段です。特に社会的に疎外されたコミュニティにおいては、悪意のある人物が、Twitchのヘイトスピーチや嫌がらせに関するルールに明確に違反することなく、意図的にチャンネルに嫌がらせを仕掛けるシナリオは容易に想像できます。
Twitchは、嫌がらせには「様々な表現」があることを認めていますが、Twitchからアカウントを停止する対象となる行為は、「ストーカー行為、個人攻撃、身体的危害の助長、敵対的な襲撃、悪意のある虚偽の報告の強要」と定義されています。この定義の外側には、捉えるのがより難しいグレーゾーンの行為がありますが、共有バンツールはその方向への一歩となります。それでも、ユーザーがTwitchのプラットフォームルール（チャンネルのローカルルールだけでなく）に違反している場合、Twitchはチャンネルに報告することを推奨しています。
「これは、コミュニティガイドラインに違反する行為にも効果があると考えています」とハフマン氏は述べた。「Twitchにも報告され、対策を講じられることを願っています。特に、社会的に弱い立場にあるコミュニティに影響を与えている、標的を絞った嫌がらせ行為の対策には役立つと考えています。」
昨年11月、TwitchはチャンネルのBANを回避しようとするユーザーをモデレーターが検出するための新たな方法を追加しました。同社が「BAN回避検出」と呼ぶこのツールは、機械学習を用いて、チャンネル内でBANを回避しようとしている可能性のあるユーザーを自動的にフラグ付けし、モデレーターが当該ユーザーを監視し、チャットメッセージを傍受することを可能にします。
新しい機能は、Twitchのプラットフォーム上で「階層化された」安全性を実現するという同社のビジョンに適合している。Twitchでは、クリエイターがライブ配信をし、時には数十万人のユーザーに向けて配信し、あらゆるレベルでリアルタイムにモデレーションの決定を行う必要がある。
Twitchの最新モデレーションツールは、チャンネル禁止を回避しようとするアカウントを検出します
「これは、チャットを通じた嫌がらせを積極的に抑止するのに役立つ強力なツールの組み合わせだと考えています。そして、このシステムの素晴らしい点の一つは、人間とテクノロジーの新たな組み合わせであるということです」とハフマン氏は述べた。「バン回避検出では、機械学習を用いて疑わしいと思われるユーザーを見つけ出します。これにより、彼らが既に構築している人間関係、そして信頼できるクリエイターやコミュニティに頼って、そのシグナルを発信することができます。」
Twitchのコンテンツモデレーションの課題は、危険な配信が視聴者に届き、リアルタイムで展開される中で危害を及ぼす可能性がある、いわば試練の場です。他の多くのプラットフォームは、事後的なコンテンツ検出に重点を置いています。つまり、何かが投稿され、自動システムによってスキャンされたり、報告されたりすると、そのコンテンツはそのまま残るか、削除されるか、あるいはユーザーやプラットフォーム向けの何らかの警告タグが付けられるのです。
同社は安全性への取り組みを進化させ、コミュニティの声に耳を傾け、プラットフォーム上で安全な場所や目立つ存在を確保するのに長らく苦労してきた黒人やLGBTQストリーマーなどの疎外されたコミュニティのニーズについて熟考している。
黒人クリエイターは@Twitchで標的にされ、嫌がらせを受けることにうんざりしている。
COCは黒人ストリーマーと協力して嫌がらせを終わらせようと努力しているが、#Twitchはまだ耳を傾けていない。
黒人はオフラインでもオンラインでも安全であるべきだから、私たちは #TwitchDoBetter を要求します。https://t.co/enjqNYFaEw pic.twitter.com/d5bYi7FqTQ
— ColorOfChange (@ColorOfChange) 2022年3月24日
3月、Color of Changeは#TwitchDoBetterキャンペーンを通じて、Twitchに対し黒人クリエイターの保護に向けた取り組みを強化するよう訴えました。トランスジェンダーやLGBTQコミュニティ全体も、ヘイトレイド（悪意のあるユーザーがストリーマーのチャンネルを標的とした嫌がらせ行為を集中的に行う行為）を撲滅するために、Twitchに対し更なる対策を講じるよう圧力をかけています。Twitchは昨年末、将来の悪質な行為者を抑止するために自動化されたヘイトキャンペーンを組織したとして、2人のユーザーを提訴しました。
最終的には、均一に施行されるスマートなポリシーと、モデレーターが利用できるツールキットの改善が、訴訟よりも日常的な影響を与える可能性が高いですが、防御層を増やすことに害はありません。
「標的型ハラスメントのような問題は、インターネット上のどこにも解決方法がありません」とハフマン氏は述べた。「そして、インターネット以外の世界と同様に、これは永遠の問題であり、唯一の解決策があるわけではありません。」
「私たちがここでやろうとしているのは、非常に堅牢でカスタマイズ性に優れたツールセットを構築し、それをクリエイターやモデレーターといったニーズを最もよく理解している人たちに提供し、彼らがそれぞれのニーズに合わせてツールセットをカスタマイズできるようにすることです。」
Twitchは意思決定を導くための新しい安全諮問委員会を発表した。
ストリーマーたちは今日、プラットフォームが「ヘイトレイド」に対して行動を起こさないことに抗議してTwitchをボイコットしている。
Twitch、ヘイト攻撃でストリーマーを嫌がらせしたとしてユーザー2人を提訴
