ニュースでは、プラットフォームが偽情報を取り締まり、著名人を追放することに伴う不安が溢れています。しかし、これらはより深刻な問題、つまり偽情報の問題は私たち自身が作り出した問題の一つであるという事実を隠すための応急処置に過ぎません。私たちがソーシャルメディアプラットフォームを構築してきた中核的な要素の中には、意図せず分断を助長し、偽情報を拡散させてしまう可能性があるものがあります。
もし私たちが過去へテレポートして、Facebook、Twitter、TikTokなどのソーシャルメディアプラットフォームを、誤情報や陰謀論の拡散を最初から最小限に抑えることを目的として再起動できたとしたら、それはどのようなものになるでしょうか？
これは学術的な演習ではありません。これらの根本原因を理解することで、現在および将来のプラットフォームに対するより優れた予防策を開発することができます。
シリコンバレーを代表する行動科学企業の一つとして、Google、Lyftといったブランドが製品設計における人間の意思決定を理解するお手伝いをしてきました。最近ではTikTokと協力し、プラットフォーム上での潜在的な誤情報の拡散を阻止するための新たなプロンプトシリーズを開発しました（今週リリース）。
この介入により、フラグ付きコンテンツのシェアが24%減少しました。TikTokはプラットフォームの中では異例の存在ですが、そこで得た教訓は、ソーシャルメディアの再構築のあり方についてのアイデア形成に役立っています。
オプトアウトを作成する
ラベルやプロンプトよりも、根拠のないコンテンツの閲覧を減らすことに重点を置いています。
TikTokと共同で実施した実験では、2週間で平均1.5本のフラグ付き動画が視聴されました。しかし、定性調査では、多くのユーザーがTikTokは楽しみのために利用しており、フラグ付き動画は一切見たくないと回答しました。最近の決算説明会で、マーク・ザッカーバーグ氏もFacebookユーザーが極端に党派的なコンテンツに飽き飽きしていると述べました。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
ユーザーに「フラグ付きコンテンツのオプトアウト」オプションを提供することを提案します。つまり、フィードから当該コンテンツを完全に削除することです。これを真の選択肢とするには、このオプトアウト機能は、ユーザーがわざわざ探さなければならないような場所に埋もれるのではなく、目立つように配置する必要があります。新規ユーザーの場合はサインアップフローに直接配置し、既存ユーザーの場合はアプリ内プロンプトを追加することを提案します。
ビジネスモデルの転換
ソーシャルメディア上で偽ニュースが本物のニュースの6倍の速さで拡散するのには理由があります。物議を醸したり、劇的な、あるいは賛否両論を呼ぶ情報は、私たちの注目を集める可能性がはるかに高いからです。そして、アプリでのエンゲージメントと利用時間を最大化するようにアルゴリズムが設計されている場合、こうしたコンテンツは、より思慮深く熟考されたコンテンツよりも大幅に優先されます。
広告ベースのビジネスモデルこそが問題の核心であり、誤情報や分断化への対策を進めるのが非常に難しい理由です。この問題の調査を任されたFacebook社内のあるチームは、「私たちのアルゴリズムは、人間の脳が分断を好む性質を利用している」ことを発見しました。しかし、このプロジェクトと、問題解決に向けた提案された取り組みは、上級幹部によって却下されました。
本質的に、これは典型的なインセンティブの問題です。もし「成功」を定義するビジネス指標が、エンゲージメントやサイト滞在時間の最大化に依存しなくなったら、すべてが変わります。分極化したコンテンツが優遇される必要はなくなり、より思慮深い議論が表面化できるようになるでしょう。
つながりのためのデザイン
誤情報が拡散する主な要因は、疎外感や孤独感です。人間は本質的に社会的な生き物であり、自分の集団に属したいと考えます。そして、党派的な集団は、しばしばそのような受容感と承認感を与えてくれます。
したがって、私たちは人々が（陰謀論で結束する人々ではなく）他の方法で自分たちの本当の仲間やコミュニティを見つけやすくする必要があります。
マーク・ザッカーバーグは、Facebookの究極の目標は人々を繋ぐことだと述べています。公平を期すために言えば、Facebookは多くの点で、少なくとも表面的にはそれを実現してきました。しかし、もっと深く掘り下げてみましょう。その方法をいくつかご紹介します。
より積極的な一対一のコミュニケーションをデザインすることで、幸福度の向上が実証されています。オフラインでのつながりを促すこともできます。例えば、二人の友人がFacebookメッセンジャーや投稿へのコメントでチャットしているとします。もし二人が同じ街に住んでいるなら（もちろん、コロナ禍が終息したら）、直接会うように促すのはいかがでしょうか？あるいは、同じ街に住んでいないなら、電話やビデオ通話を促してみてはいかがでしょうか。
友人同士ではなく、やり取りがより論争的な状況では、プラットフォームは相手の人間性だけでなく、共通点も強調する役割を果たします。オンラインで誰かと「叫んでいる」ときに、相手との共通点をすべて表示するプロンプトを想像してみてください。
プラットフォームは匿名アカウントを禁止するか、少なくとも実名の使用を推奨すべきです。Clubhouseはこの点に関して明確な規範を設けており、オンボーディングフローで「ここでは実名を使用します」と明記しています。人と人との繋がりは、生身の人間と交流しているという意識に基づいています。匿名性は、その意識を曖昧にしてしまうのです。
最後に、人々がリセットできるように支援する
人々がアルゴリズムの迷路から抜け出しやすい環境を整えるべきです。YouTubeは迷路の迷路で批判を浴びていますが、これはすべてのソーシャルメディアプラットフォームに共通する課題です。動画をクリックすると、似たような動画が表示されます。これは時には役立つかもしれません（完璧な「ハウツー」動画を見つけるには、検索が必要になることもあります）。しかし、誤情報に関しては、これは死の行進です。地球平面説に関する動画が次々と現れ、さらに別の陰謀論へと繋がります。私たちは、人々がアルゴリズムの運命から抜け出せるよう支援する必要があります。
大いなる力には大いなる責任が伴う
ソーシャルメディアからニュースを得る人が増えていますが、ソーシャルメディアを利用する人は重要な問題について正しい情報を得られない可能性が高まっています。情報源としてソーシャルメディアに依存するこの傾向は今後も続くでしょう。
このように、ソーシャルメディア企業は独自の立場にあり、誤情報の拡散を抑制する上で自らが果たす役割について深く考える責任を負っています。TikTokチームと共同で行ったように、ソーシャルメディア企業は研究に基づいた解決策を用いて実験とテストを継続すべきです。
この仕事は簡単ではありません。それは最初から分かっていましたが、TikTokチームと仕事をすることで、その事実をより深く理解するようになりました。世の中全体の利益のために問題を解決したいと願う、賢く善意を持った人々がたくさんいます。私たちは、誤情報を減らし、つながりを育み、そして私たちの人間性を強化する方法について、より大きく、より創造的に考える機会を共に得られることに、深い希望を抱いています。
フェイスブックは、ワクチン接種を阻害するCOVID-19陰謀論をさらに削除すると発表
