Facebook上の中国のプロパガンダネットワークはAI生成の顔を使用

フェイスブックは火曜日、プラットフォーム上で政府のプロパガンダを拡散する偽アカウントのネットワーク２つを削除した。１つは中国発、もう１つはフィリピン発である。

同社は、この種の組織的なキャンペーンに関する最新の報告書で、中国での活動に関連して155のFacebookアカウント、11のページ、9つのグループ、7つのInstagramアカウントを削除したと発表しました。また、フィリピンでの活動に関連して57のアカウント、31のページ、20のInstagramアカウントを削除しました。いずれの活動も、「外国または政府機関を代理した組織的な不正行為」を禁じるFacebookの規則に違反していました。

同社は木曜日、偽情報に特化したソーシャルアナリティクス企業Graphikaと共同でこのレポートを発表した。GraphikaはFacebookと連携してこの種の活動を定期的に分析しており、そのレポートではその手法についてより深く掘り下げている。

Graphikaは、時代の兆しとして、中国の偽アカウントネットワークがGAN（Generative Adversarial Networks）と呼ばれるAI技術によって生成された顔画像を利用していることを発見しました。これらの偽顔は検出を逃れるために使用されていますが、その視覚的特徴には微妙な癖や異常が見られることが多いため、GANは容易に検出されることもあります。Graphikaの報告書によると、「この形態のAIはオンラインで容易に入手可能であり、秘密作戦におけるその使用（または悪用）は昨年爆発的に増加しました」と述べており、中国の情報作戦でGANによって生成された画像を12枚特定しています。

「1年前は、これは目新しいものでした」と、Graphikaのベン・ニモ氏はTwitterに投稿した。「今では、私たちが分析するすべてのオペレーションが、少なくとも一度はこれを試しているように感じます。」

Facebookが中国福建省にまで遡る中国でのキャンペーンには、米国大統領選に向けた「小規模な」活動が含まれていた。2019年4月に「Go for Pete Buttigieg 2020」というFacebookグループから始まったこの活動は、大きな反響を呼ばなかった。このアカウントは、プロパガンダネットワークに関連する2つのアカウント以外にメンバーを増やすことはなかった。2020年には、偽アカウントネットワークは米国に焦点を当てた3つのグループを作成した。1つはトランプ支持、1つはバイデン・ハリス支持、そして「Quack Quack」と呼ばれる反トランプの投稿を行うグループだ。最も成功を収めたのはバイデン・ハリス支持のグループで、1,400人のメンバーを集めた。

新たに特定された中国のプロパガンダ活動のほとんどは、フィリピンと東南アジアにおける中国の利益を訴えるものでした。一部のキャンペーンとは異なり、この活動に関与した人々はVPNなどの手段を用いて身元を隠蔽していました。Graphikaによると、偽アカウントネットワークは「特に南シナ海における海洋安全保障に強い関心を示していた」とのことです。これは、2019年8月の報告書に続き、Facebookによる中国の情報操作を理由とした2件目のアカウント削除となります。