マスク氏の「ツイッターファイル」は、モデレーションという生々しく複雑で報われない仕事を垣間見せてくれる。

テッククランチイベント

ほとんど起こらないのは、大規模なコンテンツモデレーションの実際のツールとプロセスが、フィルターなしで公開されることです。一般的に、企業は強制されない限り、このようなことはしません。そして、まさにそれがマスク氏のやったことです。おそらく彼自身の危険を伴うでしょうが、何百万人もの人々に影響を与える可能性のある決定を下す際に、モデレーターが実際に何をし、何を言い、何をクリックするのか疑問に思ったことのある人にとっては、間違いなく大きな関心事となるでしょう。

カーテンの裏で行われている正直で複雑な会話には注意を払わない

先週公開されたメールのやり取り、Slackでの会話、そしてスクリーンショット（というよりは画面のショット）は、この重要かつ十分に理解されていないプロセスを垣間見せてくれます。私たちが目にするのは、その生の素材の一部であり、一部の人が期待するような党派的な啓蒙主義的なものではありません。しかし、その非常に選択的な提示から、私たちが認識すべきものはこれであることは明らかです。

実際は全く違う。関係者は、慎重だったり自信があったり、実際的だったり哲学的だったり、率直だったり融通が利いたりと、さまざまであり、制限や禁止の選択は恣意的に行われるのではなく、対立する観点の進化する合意に基づいて行われることを示している。

(更新: 私がこれを投稿した直後に、同じような新しいスレッドが始まりました。専門家、法執行機関、その他の関係者と連携して複雑な問題について真剣に議論しています。)

ハンター・バイデンのラップトップに関する記事を一時的に制限するという選択に至るまでには、おそらく現時点ではトランプ氏の禁止に次いでここ数年で最も物議を醸したモデレーションの決定であるが、その文書の衝撃的なパッケージングによってほのめかされるような党派性や陰謀は存在しない。

イーロン・マスクがツイッターのハンター・バイデンのラップトップ騒動に関する内部メールを間接的に公開

むしろ、真剣で思慮深い人々が、矛盾し不十分な定義や方針の調整に取り組んでいるのが現状です。「ハッキングされた」資料とは一体何を指すのか？この評価やあの評価にどれほどの確信が持てるか？適切な対応とは？それをどのように、誰に、いつ伝えるべきか？制限を設けた場合、あるいは制限を設けなかった場合、どのような結果がもたらされるのか？私たちはどのような前例を作り、あるいは壊してしまうのか？

これらの疑問への答えは全く明白ではなく、通常は何ヶ月にも及ぶ調査と議論、あるいは法廷で議論されるような類の問題です（判例は法的用語やその影響に影響を与えます）。そして、状況がいずれにせよ制御不能になる前に、迅速に答えを出す必要がありました。社内外からの反対意見（皮肉なことに、ジャック・ドーシー氏と共に、まさに同じポリシーに違反してスレッドで個人情報が晒された米国下院議員からの反対意見も）は検討され、誠実に反映されました。

「これは事実が依然として不明瞭な、新たな状況です」と、元トラスト・アンド・セーフティ責任者のヨエル・ロス氏は述べた。「警告を発し、このコンテンツが拡散されるのを防ぐという判断に傾いています。」

この決定に疑問を呈する声もある。提示された事実自体に疑問を呈する声もある。また、自分たちの解釈ではこの決定は裏付けられていないと主張する声もある。ある者は、明らかに党派的な判断として精査されることになるため、この措置の根拠と範囲を明確にする必要があると指摘する。ジム・ベイカー副法務顧問は、さらなる情報提供を求める一方で、慎重な対応が必要だと述べている。明確な前例はなく、現時点では事実が欠落しているか未検証であり、一部の資料は明らかに合意のないヌード画像である。

「Twitter自身も、推奨する内容やトレンドニュースに掲載する内容を制限すべきだと私は考えています。QAnonグループに対する方針は全く問題ありません」とロー・カーナ下院議員は認めつつも、問題の行動は行き過ぎだと主張している。「難しいバランスです」

一般の人々も報道機関もこれらのやり取りを知らず、実のところ私たちも読者と同じくらい興味を持ちながらも、大部分は何も知らない状態です。公開された資料がプロセス全体を完全に、あるいは正確に反映しているとは言い難いでしょう（それらは、たとえ効果がないとしても、物語に合うように露骨に選別されています）。しかし、たとえそうであったとしても、私たちは以前よりも多くの情報を得ています。

仕事道具

さらに直接的に明らかになったのは、Twitterの従業員が実際に使用しているモデレーションツールのスクリーンショットが掲載された次のスレッドでした。このスレッドは、これらのツールの使用をシャドウバンと不誠実に同一視しようとしていますが、スクリーンショットは悪質な行為を示すものではなく、また、興味をそそるために悪質な行為を示す必要もありません。

それどころか、提示されている内容は、あまりにも平凡で、当たり障りのないほど体系的であるがゆえに、説得力を持つ。ここには、あらゆるソーシャルメディア企業が繰り返し説明してきた様々な手法が並んでいるが、以前はPRの明るい外交辞令で表現されていたのに、今は「トレンドブラックリスト」「注目度が高い」「行動を起こさないでください」など、何の説明もなく提示されている。

一方、ヨエル・ロス氏は、行動と政策をよりよく整合させる必要があり、さらなる研究が必要であり、改善のための計画が進行中であると説明しています。

私たちが実装したものの多くの根底にある仮説は、例えば誤情報への露出が直接的な危害を引き起こす場合、露出を減らす改善策を用いるべきであり、コンテンツの拡散/拡散を制限することがそれを実現する良い方法であるということです…特に他のポリシー領域については、これをポリシー改善策のレパートリーに組み込むために、より強力なケースを作成する必要があります。

改めて言うが、内容は提示されている文脈を裏切っている。これは、イデオロギー上の敵を禁止の鉄槌で叩きのめすリベラル秘密結社の議論などではない。リード追跡、物流、アカウント管理などで見られるようなエンタープライズグレードのダッシュボードであり、現実的な制約の中で、複数のステークホルダーの満足を目指しながら、冷静な判断力を持つ人々が議論し、繰り返し改善を重ねている。

当然のことです。Twitterは他のソーシャルメディアプラットフォームと同様に、モデレーションプロセスを大規模に機能させるのに十分な効率性と体系性を持たせるために長年取り組んできました。プラットフォームがボットやスパムに侵されないよう、またFTC（連邦取引委員会）の命令やGDPR（一般データ保護規則）といった法的枠組みを遵守するためでもあります。（写真のツールに外部の人間が「広範囲かつフィルタリングされていないアクセス」を許可されていたことは、違反行為に該当する可能性があります。関係当局はTechCrunchに対し、この件についてTwitterと「協議中」であると述べています。）

アイルランドのプライバシー監視機関が記者へのデータアクセスをめぐりツイッターと交渉中

少数の従業員が、明確な基準や監督なしに恣意的に決定を下すようなやり方では、効果的なモデレーションや法的要件の遵守は不可能です。また、（TwitterのTrust & Safety Councilのメンバー数名が本日辞任したことからも明らかなように）自動化も不可能です。明確な境界とエスカレーション手順を備えた、標準化されたシステムに従って協力し、働く大規模なネットワークが必要です。そして、マスク氏が公開させたスクリーンショットはまさにそれを示しているようです。

文書には、いかなる体系的な偏見も示されていない。マスク氏の代理人たちはそれをほのめかしつつも、完全には実証できていない。しかし、それが彼らの望む物語に合致するかどうかは別として、公開された内容は、これらの企業が自社の方針についてもっとオープンになるべきだと考える人にとっては興味深いものだ。たとえマスク氏の不透明なアプローチが、多かれ少なかれ偶然にそれを実現したとしても、これは透明性の勝利と言えるだろう。