物議を醸したフェイスブックの文書をウォール・ストリート・ジャーナルに漏らした内部告発者のフランシス・ホーゲン氏は日曜夜に身元を明かした後、火曜に上院商務科学運輸委員会で証言した。
ホーゲン氏の証言は、先週の公聴会で、Facebookのグローバル・セーフティ責任者であるアンティゴネ・デイビス氏が、同社が子供や若者に及ぼす悪影響について質問を受けた後に行われた。デイビス氏はFacebookの台本通りに発言し、質問に直接答えなかったため、上院議員らを苛立たせた。しかし、Facebookで市民への誤情報拡散に関するプロジェクトマネージャーを務めた経験を持つホーゲン氏は、予想通り、より積極的に情報を提供した。
ホーゲン氏はアルゴリズムの専門家で、Google、Pinterest、Yelpといった企業でプロジェクトマネージャーを務めてきました。Facebook在籍中は、民主主義、偽情報、対スパイ活動といった問題に取り組んでいました。
「4つの異なるソーシャルネットワークで働いた経験から、こうした問題がいかに複雑で微妙な問題であるかを私は理解しています」と、ホーゲン氏は冒頭陳述で述べた。「しかし、Facebook内で行われている選択は、子どもたちにとって、公共の安全にとって、プライバシーにとって、そして民主主義にとって、壊滅的なものです。だからこそ、私たちはFacebookに変化を求めなければならないのです。」
アルゴリズム
公聴会を通して、ホーゲン氏は、Facebookの現在のアルゴリズム、つまり意味のあるソーシャルインタラクション（MSI）を生み出す投稿を優遇するアルゴリズムは危険だと考えていることを明確にしました。2018年に導入されたこのニュースフィードアルゴリズムは、Facebookがユーザーと最も親しいと考える人々、例えば友人や家族とのインタラクション（コメントや「いいね！」など）を優先します。
しかし、ハウゲン氏が漏洩した文書が示すように、データサイエンティストたちは、このシステムが「政治やニュースなど、公共コンテンツの重要な部分に不健全な副作用をもたらす」と懸念を表明した。
Facebookはエンゲージメントベースのランキングも採用しており、AIが個々のユーザーにとって最も興味深いと思われるコンテンツを表示する。つまり、ユーザーから強い反応を引き起こすコンテンツが優先され、誤情報、有害なコンテンツ、暴力的なコンテンツが増加することになる。ハウゲン氏は、時系列ランキングはこうした悪影響を軽減するのに役立つと考えている。
テッククランチイベント
サンフランシスコ | 2025年10月27日～29日
「私はキャリアの大半を、エンゲージメント・ベースド・ランキングのようなシステムの開発に費やしてきました。私が皆さんの前でこのようなことを言うのは、実質的に私自身の10年間の仕事を非難しているようなものです」と、ホーゲン氏は公聴会で述べた。
ホーゲン氏が日曜夜の「60 Minutes」で語ったように、彼女はFacebookが2020年の選挙後に解散させた市民の清廉性に関する委員会の一員だった。Facebookは2020年の米国大統領選挙に先立ち、誤情報を減らすための安全対策を導入した。選挙後、これらの安全対策は停止された。しかし、1月6日の米国議会議事堂襲撃事件後、Facebookは安全対策を再び開始した。
「Facebookは選挙前に安全基準のデフォルト設定を変更しました。それが危険だと認識していたからです。選挙後には成長を取り戻したかったので、元のデフォルト設定に戻したのです」とホーゲン氏は述べた。「これは非常に問題があると思います。」
ホーゲン氏は、Facebookは不安定なアルゴリズムを使って急成長を続けるか、ユーザーの安全を優先して衰退するかという誤った選択肢を強調していると述べた。しかし、彼女は、学術機関、研究者、政府機関による監視など、より多くの安全対策を導入することで、Facebookの収益向上につながる可能性があると考えている。
「私が求めているのは、Facebookが現在支配している短期主義からの脱却です。Facebookは人ではなく指標によって動かされています」とホーゲン氏は述べた。「適切な監督とこうした制約があれば、5年後、10年後にはFacebookははるかに収益性の高い企業になっていた可能性があります。なぜなら、それほど有害な環境ではなく、辞める人もそれほど多くなかったからです。」
政府の監督体制の確立
ホーゲン氏は、「思考実験」として、もし自分がCEOのマーク・ザッカーバーグ氏の立場だったらどうするかと問われた際、議会を含む監督機関との情報共有に関するポリシーを策定する、研究者と協力してプラットフォームに関する研究に必要な情報を確実に提供できるようにする、そして2020年選挙の公正性を守るために特定された「ソフトな介入」を直ちに実施すると述べた。彼女は、Twitterなどの他の企業が誤情報を減らすためにこうした介入が有効であることから、ユーザーにリンクを共有する前にクリックを義務付けることを提案した。
ホーゲン氏はまた、フェイスブックの現在の体制ではワクチンに関する誤情報の拡散を防ぐことはできないと考えていると付け加えた。フェイスブック自身も、AIシステムがコンテンツの10～20％以上を捕捉することはまずないだろうと述べているためだ。
その後、ホーゲン氏は委員会に対し、ソーシャルメディアプラットフォームがユーザーの投稿内容について責任を問われないように定めた米国通信品位法第230条の改正を「強く推奨する」と述べた。ホーゲン氏は、アルゴリズムに関する決定は第230条の適用対象外とすべきだと考えている。これにより、企業は自社のアルゴリズムが危害を及ぼすことが判明した場合、法的責任を問われる可能性がある。
「ユーザー生成コンテンツは、企業がコントロールしにくい領域です。しかし、企業はアルゴリズムを100%コントロールできます」とハウゲン氏は述べた。「Facebookは、公共の安全よりも成長、拡散性、そして迅速な対応を優先するという選択を、免責されるべきではありません。」
ジョン・ヒッケンルーパー上院議員（コロラド州選出、民主党）は、Facebookのアルゴリズムが安全性の向上を促した場合、同社の収益にどのような影響が出るかを尋ねた。ホーゲン氏は、ユーザーがより魅力的なコンテンツ（たとえそれがユーザーを惹きつけるよりも怒りをかき立てるものであっても）を見ると、プラットフォーム上での滞在時間が長くなり、Facebookの広告収入が増えるため、影響はあると述べた。しかし、ホーゲン氏は、ユーザーがユーザーの安全性向上のために自ら示した対策を講じれば、Facebookは依然として利益を上げられると考えている。
フェイスブック、10代の若者のメンタルヘルス問題で上院公聴会で厳しく追及される
国際安全保障
ウォール・ストリート・ジャーナルのFacebook Filesの記事で報じられているように、Facebookの従業員は、同社プラットフォームが海外で暴力犯罪に使用されている事例を報告したが、同社の対応は不十分だったと、ハウゲン氏が漏洩した文書には記されている。
例えば、従業員はエチオピアの武装勢力がFacebookのプラットフォームを利用して少数民族に対する暴力的な攻撃を組織しているのではないかと懸念を表明しました。Facebookのモデレーション活動は人工知能（AI）に大きく依存しているため、月間29億人のアクティブユーザーが話すあらゆる言語と方言でAIが機能する必要があるのです。ウォール・ストリート・ジャーナルによると、FacebookのAIシステムはサイト上で話されている言語の大部分をカバーしていません。ハウゲン氏によると、Facebookユーザーのわずか9%が英語を話すにもかかわらず、プラットフォームの誤情報対策費の87%は英語話者向けに費やされているとのことです。
「Facebookは、収益性に基づいてリスクが均等に分散されていない可能性があるにもかかわらず、最も収益を上げているユーザーに投資しているようだ」とホーゲン氏は述べた。さらに、Facebookの対スパイ活動、情報活動、対テロ対策チームの人員が常に不足していることは国家安全保障上の脅威であり、この件について他の議会議員にも伝えていると述べた。
Facebookの未来
上院委員会のメンバーは、同じく独占禁止法訴訟の真っ最中であるFacebookに対して行動を起こす意欲があることを示した。
「私はFacebookの分割には反対です」とホーゲン氏は述べた。「FacebookとInstagramを分割すれば、広告費の大部分がInstagramに流れてしまう可能性が高く、Facebookは世界中の人々の命を危険にさらし続ける『フランケンシュタイン』であり続けるでしょう。ただ、Facebookに資金を提供するための資金がなくなるだけです。」
しかし批評家らは、きのうのFacebookの6時間にわたる障害は、今日の公聴会とは関係なく、特にWhatsAppのようなプラットフォームが海外でのコミュニケーションに不可欠な場合に、1つの企業が大きな支配権を持つことのマイナス面を示したと主張している。
一方、議員たちはソーシャルメディアプラットフォームにおける未成年者の安全を促進するための法案を策定しています。先週、エド・マーキー上院議員（マサチューセッツ州選出、民主党）は、リチャード・ブルーメンソール上院議員（コネチカット州選出、民主党）と共に、16歳未満のオンラインユーザーに対する新たな保護策を創設する「KIDS（子どものインターネットデザインと安全）法案」を再提出すると発表しました。本日、ジョン・トゥーン上院議員（サウスダコタ州選出、共和党）は、2019年に他の3人の委員と共に提出した超党派法案「フィルターバブル透明性法案」について言及しました。この法案は、秘密のアルゴリズムによってキュレーションされていないコンテンツを閲覧する選択肢をユーザーに与えることで、透明性を高めるものです。
ブルーメンソール上院議員は、Facebookが国家安全保障上の脅威であるという懸念について、ホーゲン議員に再度公聴会に出席するよう提案しました。公聴会ではFacebookの幹部らがホーゲン議員に反対の立場を表明しましたが、政策立案者たちは彼女の証言に心を動かされたようです。
フェイスブック、10代の若者のメンタルヘルス問題で上院公聴会で厳しく追及される
