「トランプ大統領は救いようのないマヌケだ」──。2018年初めにYouTubeで公開された動画（下の動画）で、バラク・オバマ前大統領はそう発言している。確かにオバマらしくない言葉だが、どう見ても本物に見える。

だがこれはフェイク動画だ。「BuzzFeed」と俳優兼監督のジョーダン・ピールが人工知能（AI）を活用してつくったもので、急速に深刻化していく問題に注目を集めるための賢いやり方だ。

AIによってつくられたフェイク動画。20秒を過ぎたあたりで、“オバマ前大統領”が「トランプ大統領は救いようのないマヌケだ（President Trump is a complete and total dipshit）」と発言しているが、しばらくすると画面が二分割されて俳優兼監督のジョーダン・ピールが現れ、これがフェイク動画であることがわかる。VIDEO COURTESY OF BUZZFEEDVIDEO

ディープフェイクと呼ばれるこうした映像は、激化するデジタルのフェイク情報競争のなかで最も新しい、そしておそらく最も厄介なものだ。画像の加工はずっと前から行われてきたし、音声を操作する方法も向上している。

しかしつい最近まで、動画の操作や偽造は大変な作業であり、専門技術と気の遠くなるような根気を必要とした。だが、機械学習によってこのプロセスがますます容易になり、加速している。

すべての始まりは偽ポルノ動画

17年の終りころ、新しいタイプのポルノ動画が「Reddit」に登場し始めた。「deepfakes」という名前の、あるRedditユーザーによるものだ。機械学習を使用してポルノスターの顔と有名人の顔を入れ替える方法を考案したdeepfakesは、ちょっとした騒ぎを引き起こした。

その後、このアルゴリズム「DeepFake」は、ソフトウェア開発プラットフォームの「GitHub」で公表された。その結果、十分なノウハウと、そこそこのコンピューターをもっている人なら、かなりの質のフェイク映像をつくれるようになった。

それ以来、同じようなフェイク映像や関連ソフトがネットのあちこちで登場している。そのなかには比較的無害なものもある。deepfakesによるオリジナルのアルゴリズムから着想を得たあるツールは主に、ニコラス・ケイジの顔を、彼が出演していない映画に挿入することに使用されている。

だが、明らかに有害になりうるものもある。本物にしか見えないフェイク動画が地政学的緊張を高めたり、動揺を招いたり、犯罪を激化させたり、といった事態につながることは十分に考えられる。さまざまな組織やメディアで、あるいは政治システムでさえ、信頼は一瞬にして崩れ去る可能性がある。技術的進化に適切な政策が追いついていないという懸念は、今後も拡大していくはずだ。

フェイクを検知するアルゴリズム

幸いなことに、科学界は対応に乗り出している。ニューヨーク州立大学オールバニ校の呂思偉（ルー・シウェイ）が率いるチームが、フェイク動画の欠陥を見つけたのだ。

DeepFakeアルゴリズムは、入力された画像から動画をつくり出す。それなりに正確ではあるが、AIは、人間が自然に発する生理学的信号すべてを完璧に再現することはできない。そこでこのチームが特に注目したのは「まばたき」だった。

人は通常、2～3秒に1回、自然にまばたきをする。だが、写真に写っている人は通常、目を閉じていない。瞬きについてアルゴリズムに学習させたとしても、動画の人物は滅多に瞬きしないことになる。

そこで研究チームは、フェイク動画のなかで瞬きがない箇所を検出するAIアルゴリズムを設計した。

このアルゴリズムは、2つのニューラルネットワークを組み合わせている。まずは顔を検出し、次に動画の連続画像すべてを並べて、それぞれの目の領域を解析する。ひとつのネットワークが、その顔の目が閉じているかどうかを判断する。もう一方は、記憶システムとして機能する。フレームごとの判断を記憶して、その時間のなかで瞬きが行われたかどうかを見極めるという仕組みだ。

まずはAIに、目が開いている画像と閉じた画像のラベル付きデータセットを学習させた。学習後のAIをテストするために、独自のDeepFake動画を作成し、わずかな後処理を行って、偽造レヴェルをさらにアップさせた。

結果は素晴らしいものだった。呂によると、学習させたAIはフェイク動画をすべて特定したという。

後処理として手動で瞬きを追加することは、大した手間ではないと呂は説明する。BuzzFeedの動画もそうだが、一部のフェイク動画には、実際に瞬きが含まれている。それでもこの種の戦略は、フェイク動画の作成プロセスを邪魔し、遅らせる方向で働くだろう。少なくともこのアルゴリズムには、その効果がある。

「いまは、防御の最前線を構築しているところです。結局これは、フェイク動画をつくる人間と、それを検出する人間との、今後も続く戦いなのです」とリューは言う。

AIとAIが闘う日

広範囲の取り組みに応用できるこの研究は、米国防総省高等研究計画局（DARPA）の支援を受けている。16年から20年まで続くDARPAの「Media Forensics」プログラムの一環だ。このプログラムの目標は、音声や動画など、デジタル生成された情報の信憑性と正確性をチェックできるツールを開発することだ。

「フェイクメディアやフェイクニュースの波に反撃できるテクノロジーがあるということを、一般の人々に保証したいと考えています」と呂は述べる。

ニューヨーク市立大学の教授でコンピューターサイエンスを教えているレヴ・マノヴィッチによれば、これはAI同士の競争が激化しているひとつの例でもある。「コンピューターによるデータ解析で、人には見えないパターンを検出できることはよく知られていますが、ほかのAIが残したパターンはどうなのでしょうか。将来、AI同士での“文化戦争”が、人間の気づかないレヴェルで起こるかもしれません」とマノヴィッチは述べる。

いまのところ呂のチームは、この技術をさらに発展させ、瞬きの頻度や継続時間といった複雑なことを習得させる方法に取り組んでいる。将来の目標は、さまざまな自然な生理学的信号を検出できるようにすることであり、呼吸もそのひとつだ。「この問題に真剣に取り組んでいます」と呂は言う。

もちろん、科学研究を発表することは両刃の剣だ。他人をだまそうと思っている人間がこの研究結果を読んで、自分のフェイク動画が見破られる仕組みを理解したら、そのアルゴリズムを微調整できてしまう。

「その意味では彼らのほうが優位に立っています」と呂は語る。「最後にどちらが勝利を収めるのか、まったくわかりません」