オンラインコミュニティの米Redditは2月7日（現地時間）、AIのアルゴリズムを採用し、動画の顔の部分に別の人の顔を合成できるアプリ「FakeApp」を公開するサブレディット「deepfakes」を閉鎖した。

1月初旬に公開されたこのアプリでは、顔画像のデータがある程度あれば、動画の人物の顔を別の個人の顔とすげかえることができる。こうした動画は「ディープフェイク」と呼ばれる。この件について最初に報じた米Motherboardによると、アプリが公開されるとすぐに、どうしたら知り合いの顔をポルノ動画に貼り付けられるかという質問が投稿されたり、実際にポルノ動画の顔をセレブや無名の個人の顔にすげかえた動画が投稿されはじめたという。

Motherboardが報じた後、まずDiscordが、その後Twitterがディープフェイクを禁じた。

Redditはコミュニティ規則を更新し、「偽造された描写を含む、明らかに許可なしに作成・掲載された、ヌード状態の人物、または性的行為を行う人物を描写した画像や動画の配布を禁じる」と明示した。

新たに追加された禁止事項

FakeAppのチュートリアルによると、このアプリでは米Googleがオープンソースで提供している「TensorFlow」を採用している。

ポルノではないディープフェイクのサンプルはderpfakesのYouTubeチャンネルなどで視聴できる。