米Facebookは12月20日（現地時間）、「Coordinated Inauthentic Behavior（協調的な不正行為）」を行っていた2つのアカウントネットワークをFacebookおよびInstagramから削除したと発表した。

1つはジョージアで立ち上げられたネットワークで、自国民をターゲットにしたもの、もう1つはベトナムと米国で立ち上げられ、ターゲットは主に米国民だが、英語とスペイン語、中国語を話す世界のオーディエンスも対象だった。

2つ目のネットワークは、主に米メディアThe BL（The Beauty of Life）の記事の拡散に使われていた。The BLはドナルド・トランプ米大統領を支持する記事を多数掲載するメディアだ。

The BLの記事

このネットワークを構成していた610のアカウント、89のFacebookページ、156のFacebookグループ、72のInstagramアカウントを削除した。これらのアカウントには約5500万のフォロワーがいた。ネットワークはFacebookとInstagramでの広告に950万ドル（約10億円）投じていた。

610のアカウントの中には、AIで合成したプロフィール画像を使っているものもあった。こうしたアカウントは米国人を装ってThe BLの記事を投稿していた。

Facebookから発表前にこのネットワークのデータへのアクセスを許可されたという米SNS解析企業Graphikaと米シンクタンクAtlantic Councilのデジタルフォレンジックリサーチラボは同日、このネットワークに関する共同調査結果のレポートを「#OperationFFS: Fake Face Swarm」（リンク先はPDF）として公開した。AIによる合成方法についてなどを説明している。

AI偽造画像

このレポートによると、偽アカウントはAIで偽造したものの他、ネット上のプロフィール写真を流用したものもあり、ものによっては明らかに性別が違うものも含まれていた。バッチ処理で数分間隔で作成されたものもあるという。

ネットワークのキャンペーンは、Facebook上だけでなく、Twitterでも展開されていた。Twitterのアカウントも既に凍結されている。