偽のペンタゴン攻撃デマはツイッターの有料認証の危険性を浮き彫りにする

文字通り誰も驚かないことだが、有償のブルーチェックと生成AIの組み合わせは、誤情報を拡散することを非常に容易にしている。月曜日の朝、ペンタゴンで爆発が起きたとみられるAI生成画像がインターネット上で拡散したが、実際には爆発は起きていなかった。

約30分後、この画像は「ブルームバーグフィード」という認証済みTwitterアカウントに掲載されました。青いチェックマークが付いていることから、ブルームバーグ関連の本物のアカウントと見間違える可能性が非常に高いです。このアカウントはその後停止されました。ツイートが削除される前にユーザーが撮影したスクリーンショットによると、ロシア国営ニュースネットワークRTもこの画像を共有していました。DeItaone、OSINTdefender、Whale Chartなど、数十万人のフォロワーを持つ複数のTwitterアカウントもこの画像を共有しました。インドのテレビ局も、偽のペンタゴン爆発を報じました。この偽画像と偽ニュースの出所は、今のところ明らかになっていません。

有料認証システムの危険性を示す好例：ペンタゴンの爆発に関する（偽の）記事の写真（おそらくAIが生成したもの）をツイートしたこのアカウントは、一見すると本物のブルームバーグのニュースフィードのように見える。pic.twitter.com/SThErCln0p

— アンディ・キャンベル（@AndyBCampbell）2023年5月22日

偽画像がインターネットを騙すのに成功したのは今回が初めてではない。しかし、ローマ教皇がバレンシアガのコートを着ているという偽情報ではなく、米国政府庁舎での爆発という偽情報となると、その危険性はさらに増す。偽画像がS&P500の25ベーシスポイントの変動と関連している可能性があると報じる声もあるが、下落は長く続かず、完全にこの偽情報によるものだと証明する方法はない。この事件は、将来、生成AIがどのように株式市場を操作するために利用される可能性があるのか​​という疑問を提起する。実際、Redditが実際にそれを実行したのだ。

誤情報はインターネットと同じくらい古い歴史を持つ問題だが、生成AIの同時成長とTwitterの認証システムの変更は、特にこの分野にとって肥沃な土壌となっている。Twitterのオーナーであるイーロン・マスク氏が、既存の青いチェックマークのステータスを剥奪し、誰でも購入できるようにするという計画は、当初から混乱を招いている。