Facebookとその関連アプリは、プラットフォーム上でのいじめやその他のハラスメントをより効果的に管理し、根絶する方法という課題に長年取り組んでおり、アルゴリズムと人間の双方を活用しながら、この問題へのより効果的な対処に取り組んできました。そして本日、Instagramが独自の新たなツールを発表するに至りました。
まず、ダイレクトメッセージ、特にメッセージリクエストにおける嫌がらせからユーザーを守るための新たな手段を導入します。これは、嫌がらせコンテンツを示す可能性のある新しい単語、フレーズ、絵文字のセットです。これらのキーワードには、フィルターを回避するために使用される可能性のある、これらのキーワードのよくあるスペルミスも含まれます。次に、問題のユーザーに新しいアカウントで連絡を取ろうとした場合でも、ユーザーが積極的にブロックできるようになります。
Instagram によれば、アカウントをブロックする機能は今後数週間以内に世界中で利用可能になる予定であり、攻撃的な DM をフィルタリングする機能は数週間以内に英国、フランス、ドイツ、アイルランド、カナダ、オーストラリア、ニュージーランドで展開が開始され、その後数か月かけてさらに多くの国で利用可能になる予定であると確認された。
注目すべきは、これらの機能はInstagramのみで展開されており、Facebookの他の2つの人気ダイレクトメッセージアプリであるMessengerとWhatsAppでは展開されていないことです。広報担当者は、Facebookが今年後半にMessengerにこの機能を導入したいと考えていることを確認しました（WhatsAppについては言及されていません）。Instagramなどの企業は、より広範な展開を検討する前に、個々のアプリについて定期的にアップデートを発表しています。
Instagramは、DMに不適切なコンテンツをフィルタリングする機能（スキャンではなく、同社が明確に指摘）は、Facebookが反差別・反いじめ団体（どの団体かは明らかにしていない）の協力を得て収集した単語と絵文字のリスト、そしてユーザーが自分で追加する可能性のある言葉と絵文字に基づいていると述べた。そして、明確にしておくと、この機能はデフォルトで利用可能になるのではなく、ユーザーが積極的に有効にする必要がある。
なぜでしょうか？それは、ユーザーの自由度を高め、ユーザーが希望すれば会話をプライベートに保つためだと思われます。「私たちは人々のプライバシーを尊重し、ユーザーにとって最適な方法で体験をコントロールできるようにしたいと考えています」と広報担当者は述べ、これはコメントフィルターの仕組みに似ていると指摘しました。この機能は、「設定」＞「プライバシー」＞「隠し単語」から設定でき、コントロールをオンにすることができます。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
現在、SentropyやHiveなど、嫌がらせやヘイトスピーチを検知するコンテンツモデレーションツールを開発しているサードパーティサービスは数多く存在しますが、興味深いのは、大手テクノロジー企業がこれまでこれらのツールを自社開発してきたことです。今回も同様であることを同社は認めました。
このシステムは完全に自動化されていますが、Facebookは報告されたコンテンツはすべて確認するとしています。Facebookはこれらのやり取りに関するデータを保持していませんが、報告された単語を使用して、コンテンツのブロックを誘発する用語のデータベースを構築し続け、その後、コンテンツを削除、ブロック、そして送信者を報告していくことを確認しました。
20州の司法長官がFacebookに対し、差別、偽情報、嫌がらせと戦うためのさらなる取り組みを要求
こうした人々について言えば、悪意のある人々がメインのアカウントがブロックされた隙を突いてすぐに複数のアカウントを作成しているという事実へのFacebookの対応が、以前より賢明になってきています。ダイレクトメッセージ（DM）が登場して以来、人々はこの抜け穴に苛立ってきました。Facebookのハラスメント対策では、連絡を取りたくない相手に繰り返し連絡を取ることが既に禁止されており、またFacebookは再犯も禁止しています。Facebookの説明によると、再犯とは「ルール違反でアカウントが無効化された場合、その人が新たに作成したアカウントは、その事実が判明次第、削除する」という意味です。
同社のダイレクトメッセージに対するアプローチは、他のソーシャルメディア企業がダイレクトメッセージを構築する方法のテンプレートのようなものとなっている。
本質的には、Instagramはデフォルトでオープンエンドな仕組みになっています。1つの受信トレイは実際に連絡を取るためのもので、もう1つの受信トレイは誰でも連絡を取ることができます。この2つ目の受信トレイを全く無視する人もいますが、Instagramの仕組みと構造は、他者とのコミュニケーションを増やすことを目的としており、例えばスパムメールの受信トレイを漁るよりも、2つ目の受信トレイをダイレクトメッセージ（DM）に使う人が多いのです。
しかし、より大きな問題は依然としてモグラ叩きゲームのような状態にあり、解決に向けてさらなる支援を求めているのはユーザーだけではありません。Facebookが規制当局の厳しい監視下に置かれ続ける中、ハラスメント、そしてそのより適切な管理は、他社が解決に着手する前にFacebookが解決しなければならない非常に重要な分野として浮上しています。
MIT教授はソーシャルメディアを動かす「誇大宣伝マシン」を刷新したいと考えている
イングリッドは、2012 年 2 月から 2025 年 5 月まで、ロンドンを拠点に TechCrunch のライター兼編集者として活躍しました。
TechCrunch以前、イングリッドはpaidContent.orgでスタッフライターとして勤務し、過去にはFinancial Timesなど他の出版物にもフリーランスとして定期的に記事を執筆していました。イングリッドは、モバイル、デジタルメディア、広告、そしてそれらが交差する分野を専門としています。
仕事に関しては、彼女は英語で話すのが一番快適だと感じていますが、ロシア語、スペイン語、フランス語も話せます（能力の高い順に）。
バイオを見る
