2018年01月25日 12時30分00秒

人工知能(AI)に有名女優の顔を機械学習させ、既存のポルノと組み合わせることで「フェイクポルノ」が作成できることが2017年末に話題になりました。この手法は瞬く間にインターネットユーザーに広がり、ついには簡単にフェイクポルノを作成できるアプリまで登場。アルゴリズムが公開されてから数カ月で、有名女優を使ったフェイクポルノが爆増しています。

We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now - Motherboard

https://motherboard.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley



Fake celebrity porn is blowing up on Reddit, thanks to artificial intelligence - The Verge

https://www.theverge.com/2018/1/24/16929148/fake-celebrity-porn-ai-deepfake-face-swapping-artificial-intelligence-reddit



2017年12月、映画「ワンダーウーマン」の主演女優であるガル・ガドットさんが近親相姦もののポルノに出演しているように見えるムービーが海外掲示板redditに登場し話題になりました。これはTensorFlowのような機械学習ツールを使って作成されたもの。AIや機械学習に関するさまざまなツールが開発されることで、いまや研究者ではなく、一般のプログラマーがこのような映像を作れるようになったわけです。

AIで有名女優のポルノ動画を作成するプログラマーが登場、まるでリアルのような完成度 - GIGAZINE



アゴットさんのフェイクポルノを作成したのが「deepfakes」と名乗るユーザー。deepfakesさんはアゴットさんのほかにも、メイジー・ウィリアムズさんやテイラー・スウィフトさんのフェイクポルノも公開しています。そしてdeepfakeさんのフェイクポルノがニュースになると、瞬く間に数多くのユーザーがフェイクポルノ作成に取り掛かるようになりました。

その後、deepfakesさんは誰でも無料でフェイクポルノを作れるようにするアプリ「FakeApp」を開発。この頃から、deepfakesはユーザー名ではなく、AIを使ったポルノそのものを指すようになってきます。FakeAppはdeepfakesと同じアルゴリズムを使用しているとのことで、「プログラミングの経験や技術的なバックグラウンドがなくとも人々がdeepfakesを利用できることになること」を目標としているとdeepfakesさんは語りました。

実際にFakeAppが登場してから数多くのフェイクポルノが作成されています。以下はジェシカ・アルバさんの顔で作ったもの。



デイジー・リドリーさんの顔を使ったものもあります。



FakeAppは記事作成時点でデスクトップアプリであり、ハイエンドの3DゲームをプレイできるようなGPU搭載のPCで使うことができます。このようなGPUがない場合はGoogle Cloud PlatformようなクラウドGPUを借りる必要があり、フェイクポルノ完成までには8～12時間を要するとのこと。

といっても完璧な映像を作れないこともあり、ホラー映像が完成することもあるそうです。



ぼかしがかかったような仕上がりになることも。



一方で、deepfakesさんは自身の目的について「数年以内にこのような機械学習ツールが広まり、テクノロジーの知識がなくとも、現在は巨大なSFX企業が独占しているようなハイテクなデジタル操作が誰でも行えるようになることです」と語っています。

以下は「ローグ・ワン/スター・ウォーズ・ストーリー」の中でキャリー・フィッシャーをCGIで若返らせたもの。上が膨大な費用をかけて作られた実際の映画の映像で、下はdeepfakesさんが20分で作ったフェイクムービー。フェイク映像は「視覚的に似た女優」の素材を使って作られたとのことで、コストはゼロ。フェイクポルノの中には女優がInstagramなどにアップした素材を使っているものもあるので、倫理的な問題も議論されていますが、deepfakesのアルゴリズムが発展すれば、映像製作に革新が起こる可能性があるわけです。

