ソーシャル プラットフォーム X は、AI チャットボットがコミュニティ ノートを生成できるようにする機能を試験的に導入します。
コミュニティノートは、イーロン・マスク氏が所有するTwitter時代の機能で、現在はXと呼ばれるサービスのオーナーとして拡張されています。このファクトチェックプログラムに参加するユーザーは、特定の投稿に文脈を補足するコメントを投稿することができ、それらのコメントは他のユーザーによって確認された後、投稿に添付されます。コミュニティノートは、例えば、AI生成動画の投稿でその合成元が不明瞭な場合や、政治家による誤解を招く投稿の補足として表示されることがあります。
これまでの評価で意見が一致しなかったグループ間で合意が得られたときに、メモが公開されます。
コミュニティノートはXで大きな成功を収め、Meta、TikTok、YouTubeも同様の取り組みを追求するきっかけとなった。Metaは、この低コストのコミュニティソースの労働力と引き換えに、サードパーティのファクトチェックプログラムを完全に廃止した。
しかし、AI チャットボットをファクトチェッカーとして使用することが有益か有害かはまだ分からない。
これらのAIメモは、XのGrokを使用するか、他のAIツールをAPI経由でXに接続することで生成できます。AIが送信するメモは、人間が送信するメモと同じように扱われ、正確性を高めるために同じ審査プロセスが行われます。
AIが幻覚を起こしたり、現実に基づかない文脈を作り上げたりすることがよくあることを考えると、ファクトチェックにAIを使用することは疑わしいように思われます。
X Community Notesに取り組む研究者らが今週発表した論文によると、人間とLLMが連携して作業することが推奨されています。人間からのフィードバックは強化学習を通じてAIノート生成を強化し、ノートが公開される前の最終チェックとして人間のノート評価者を残すことができます。
「目標は、ユーザーに何を考えるべきかを指示するAIアシスタントを作ることではなく、人間がより批判的に考え、世界をより深く理解できるようにするエコシステムを構築することです」と論文は述べている。「法学修士と人間は、好循環の中で協力し合うことができます。」
人間によるチェックがあっても、AIに過度に依存することには依然としてリスクが伴います。特に、ユーザーがサードパーティのLLMを埋め込むことができるようになるためです。例えば、OpenAIのChatGPTは最近、モデルが過度に媚びへつらうという問題を経験しました。LLMがファクトチェックの正確さよりも「有用性」を優先した場合、AIが生成したコメントは完全に不正確なものになる可能性があります。
また、AIが生成したコメントの量によって人間の評価者が過負荷になり、このボランティア作業を適切に完了するモチベーションが低下するのではないかという懸念もあります。
ユーザーはまだ AI が生成したコミュニティ ノートを目にすることはないはずです。X では、これらの AI による投稿を数週間テストし、成功した場合はより広範囲に展開する予定です。
アマンダ・シルバーリングは、TechCrunchのシニアライターとして、テクノロジーと文化の交差点を専門に執筆しています。Polygon、MTV、Kenyon Review、NPR、Business Insiderなどの出版物にも寄稿しています。SF作家のイザベル・J・キムと共に、インターネット文化に関するポッドキャスト「Wow If True」の共同ホストを務めています。TechCrunch入社前は、草の根活動のオーガナイザー、博物館教育者、映画祭のコーディネーターとして活躍しました。ペンシルベニア大学で英文学の学士号を取得し、ラオスでプリンストン・イン・アジア・フェローを務めました。
暗号化メッセージアプリ「Signal」を使って、@amanda.100 までヒントをお送りください。その他、またはアウトリーチの確認については、[email protected]までメールでお問い合わせください。
バイオを見る
