Twitterは有害なツイートを減らすために「返信プロンプト」を改良した。

Twitterは1年前、「有害な」言葉（つまり、暴言、荒らし、その他不快な性質の言葉）を使ったツイートに返信する前に、ユーザーに立ち止まって考え直すよう促す機能のテストを開始しました。同社は本日、返信で使用されている言葉が実際に有害であるかどうかをより適切に判断できるよう、リマインダーを送信するタイミングを決定するシステムを調整し、iOS、そして近日中にAndroidの英語ユーザー向けに、この機能の改良版を展開すると発表しました。

こうした強制的なスローダウン、いわゆる「ナッジ」の背後にある考え方は、心理的なトリックを利用して、人々が投稿内容についてより良い判断を下せるようにすることです。研究によると、このようなナッジを導入することで、人々は本来であれば後悔していたであろう投稿を編集したりキャンセルしたりする可能性があることが示されています。

Twitter自身のテストでも、この結果は同じでした。34%の人がプロンプトを見た後、最初の返信を修正するか、返信を全く送らないことを選択したとのことです。一度プロンプトを受け取った人は、その後、平均で11%、不適切な返信を書く頻度が減りました。これは、少なくとも一部の少数のグループにおいては、プロンプトがユーザーの行動に永続的な影響を与えたことを示しています。（Twitterは、プロンプトを受け取ったユーザーは有害な返信を受け取る可能性が低いことも発見しましたが、この指標をさらに定量化することはしませんでした。）

しかし、Twitterの初期テストではいくつかの問題に直面しました。システムとアルゴリズムが、多くの会話に見られるニュアンスを理解できないことが時々ありました。例えば、攻撃的な返信と皮肉、あるいは時には友好的な冗談さえも、必ずしも区別できないことがありました。また、少数派コミュニティによって言語が取り戻され、その後、害のない形で使用されている状況も考慮に入れるのに苦労しました。

本日から展開される改善は、これらの問題に対処することを目的としています。Twitterは、これらの分野を含む様々な分野において技術の調整を行ったと述べています。今後は、投稿者と返信者の関係性を考慮するようになります。つまり、お互いに頻繁にフォローし、返信している場合、そうでない人よりも、好ましいコミュニケーションのトーンをより深く理解している可能性が高くなります。

Twitter社は、卑猥な言葉を含む強い言葉をより正確に検出する技術も改良したとしている。

また、プロンプトを見た人が、プロンプトが役に立ったか関連性があったかを Twitter に知らせることも容易になりました。このデータは、システムをさらに改善する上で役立ちます。

テッククランチイベント

サンフランシスコ | 2025年10月27日～29日

もちろん、これがどれだけうまく機能するかはまだ分からない。

Twitter上の有害なコンテンツを軽減する機能はどれも有用かもしれませんが、これはより大きな問題の一側面、つまり、後で後悔するような激しいやり取りに巻き込まれる人々への対応に過ぎません。Twitterには、虐待的コンテンツや有害なコンテンツに関する他の問題も存在しており、この解決策だけでは解決できません。

Twitterがユーザーの行動に影響を与えるためにナッジという概念を用いたのは、こうした「返信プロンプト」だけではありません。Twitterは、プラットフォーム上でより情報に基づいた議論を促進するため、リツイートや拡散の前に記事を読むようユーザーに促す機能も提供しています。

Twitterによれば、改善されたプロンプトは今日からiOS上のすべての英語ユーザーに展開され、今後数日中にAndroidにも展開される予定だという。

Extra Crunch会員は年間99ドルで1200万枚のストック画像に無制限にアクセスできます。