InstagramのDMフィルターツールがストーリーの返信にも拡張され、意図的なスペルミスも検出できると主張

Instagramは、ユーザーを悪質なアカウントから守れていないとして批判を受け、ここ数年、着実に新たな安全対策ツールを導入してきました。本日、同社はDMのフィルター強化、ブロックしたユーザーの別のアカウントのブロック、そしてユーザーにより慎重な返信を促すための新ツールをリリースします。

Instagramは昨年、「隠し単語」機能を導入し、キーワードや絵文字を使って嫌がらせ目的のDMをフィルタリングできるようになりました。Metaは、このツールをストーリーへの返信にも拡張しました。Metaによると、これらの嫌がらせ目的のDMは「非表示リクエスト」フォルダに直接送られるとのことですが、InstagramがこれらのDMを完全に削除しないのは奇妙です。

このフィルター機能は、悪意のあるDMで「i」の代わりに「1」を使用するといった意図的なスペルミスを検出するようになりました。これは、メッセージにちょっとした変更を加えてAIを騙そうとする加害者を捕捉するためのものです。ただし、このフィルターが短縮形で悪意のあるメッセージを送信する場合にも機能するかどうかについては、同社は明言していません。

これに加えて、この機能はペルシア語、トルコ語、ロシア語、ベンガル語、マラーティー語、テルグ語、タミル語での検出にも対応しています。さらに、Instagramはスパムや詐欺によく使われる単語をフィルターリストに追加しています。

Instagramは予防的ブロックツールの対象範囲を拡大しています。昨年、ブロック済みのユーザーの新規アカウントをブロックする機能を導入しました。今後は、そのユーザーが既に持っている可能性のあるアカウントもブロックできるようになります。同社によると、初期テストの結果、ブロックする必要があるアカウント数は毎週400万件減少すると予想されています。

2020年、このプラットフォームでは、投稿に不適切なコメントを投稿しようとするユーザーに対して警告が表示されるようになった。

昨年、Facebookは規約に違反する不適切なコメントに対して、強い文言の警告を導入しました。そして、有害なコメントを投稿しようとしているユーザーに対し、注意を促す新たなナッジ（注意喚起）を導入します。これらのナッジは現在、英語、ポルトガル語、スペイン語、フランス語、中国語、アラビア語に対応しています。これらの新しいナッジと、従来の強い文言の警告をどのように区別するかは不明です。

テッククランチイベント

サンフランシスコ | 2025年10月27日～29日

注目すべきことに、Twitter 社は昨年、不快なコメントを削減するために新しい返信プロンプトを導入しました。

さらに、Instagramはユーザーがクリエイターにダイレクトメッセージを送信しようとする際に、敬意を払うよう促すリマインダーを表示する予定です。今年初めにデジタルヘイト対策センターが発表した調査では、Instagramが著名女性を中傷的なダイレクトメッセージから守ることができていないことが指摘されています。

これらの新機能は、Instagramが既にアプリに導入しているツールをベースに構築されています。そのため、Instagramはこれらの機能が効果的に機能しているという証拠を見つけたのかもしれません。

これは、有害コンテンツの閲覧を防ぐ子ども向け安全ツールに加えて提供されるものです。先週、同社はAIを活用した年齢確認ツールを拡張し、最大の市場であるインドとブラジルの10代の若者により安全な体験を提供しました。