ＡＩ（人工知能）を使って、ポルノ動画に有名女優らの顔をはめこむ”フェイクポルノ”のテクノロジー「ディープフェイクス」が、改めて注目を集めている。

米国では１１月に上下両院などの中間選挙を控えており、「ディープフェイクス」が選挙に影響を与える可能性が取り沙汰されているためだ。

実際にベルギーでは、「地球温暖化対策」の政治キャンペーンに、トランプ大統領をモチーフにしたフェイクビデオが使われるという実例も出てきた。

懸念は「ディープフェイクス」にとどまらない。

ドイツのマックス・プランク研究所などの研究チームは、やはりＡＩを使い、政治家のスピーチ動画の口元や目元の表情などを、自在に操作できるテクノロジー「ディープビデオ・ポートレイツ」を公開した。

デモ動画では、オバマ前大統領のスピーチ動画の表情を取り込み、プーチン大統領の顔に反映してみせて、不自然さを感じさせない仕上がりになっている。

一方では法規制の動きもある。

ニューヨーク州では５月末、”フェイクポルノ”がプライバシーや肖像権を侵害する、として禁止法案が提出された。

これに対しては、「表現の自由」を侵害するとしてハリウッドから反発の声も出ている。

ＡＩの可能性と危険性をめぐる議論が、常に新しいテクノロジーの最前線の現場となる”ポルノ”を舞台に、動き出している。

●「トランプ大統領からのメッセージ」

みなさん知っての通り、私は気候変動のパリ協定から脱退する勇気があった。今度はみなさんの番だ。

「トランプ大統領からすべてのベルギー人へのメッセージ ＃気候変動キャンペーン」との書き込みとともに、「トランプ大統領」が「パリ協定」脱退を訴える動画がツイッターやフェイスブックで公開されたのは５月２０日だった。

これはベルギーのフラマン（オランダ語）系社会党（ＳＰ．ａ）の公式アカウントが、地球温暖化対策推進キャンペーンの署名集めのために制作した動画だ。

トランプ大統領のスピーチは実際のものではない、フェイク動画だ。スノープスなどのファクトチェックサイトからも、「フェイク」認定を受けている。

同党では、ポルノ動画に有名女優の顔を貼り付ける「ディープフェイクス」の話題に触発されて、キャンペーンに使ったのだという。

ただ、「ディープフェイクス」の作成では通常、「フェイクアップ」と呼ばれる専用アプリが使われるが、同党の担当者がこのフェイク動画で使ったのは、アドビの動画編集ソフト「アフターエフェクト」だったという。

ポインターの取材に対し、同党の政治ディレクター、ヤン・コーニリー氏は、動画作成の狙いをこう述べている。

私たちは「トランプ氏は気候変動協定からの離脱で知られている。そしてフェイクニュースの議論でも知られている」と考えた。ならば、その２つの要素を合わせれば面白いことになり、注目を集めて社会的な議論になるだろうと思った。これは、私たちが「ディープフェイクス」の手法を使った初めてのケースだ。

動画の演説の最後に、偽トランプ大統領は、「みなさんご承知のように、気候変動はフェイクだ。この動画と同じように」と英語で種明かしをしており（この部分はオランダ語字幕はなし）、コーニリー氏は、動画の画質がかなり粗いことなどからも「フェイクであることはわかる」と説明している。

ただ、ツイッターやフェイスブックのコメントでは、これを「本物」と思った人もいたようだ、とポインターは指摘している。

動画再生回数は１０万回を超えたが、署名の方は６月末時点で２６００人ほどの集まり具合だ。

●「ディープフェイクス」とは

「ディープフェイクス」は、フェイススワップ（顔交換）のポルノ動画として、昨年１１月ごろからネット掲示板「レディット」を舞台に広まった。

※参照：ＡＩ対ＡＩの行方：ＡＩで氾濫させるフェイクポルノは、ＡＩで排除できるのか

フェイクポルノの作成には、グーグルがオープンソースで公開している機械学習のためのライブラリ「テンソルフロー」などのＡＩの機能と、グーグルの画像検索、ユーチューブなどを利用。さらに、ディープラーニングの手法の一つ、敵対的生成ネットワーク（ＧＡＮ）を使っている。

「ディープフェイクス」では、ネットで収集した有名女優の顔の画像とポルノ動画をＡＩに学習させた上で、フェイクポルノを生成する。

これにより、映画『ワンダーウーマン』の主演女優、ガル・ガドット氏や、『ハリー・ポッター』シリーズのエマ・ワトソン氏、『ゴースト・イン・ザ・シェル』のスカーレット・ヨハンソン氏、歌手のテイラー・スウィフト氏らのフェイク動画をつくり、公開していた。

さらに「レディット」のユーザーの一人が、この「ディープフェイクス」のアルゴリズムを使い、専門知識がなくてもフェイクポルノがつくれる、というアプリ「フェイクアップ」を公開。

これを受けて、フェイクアプリが一気に拡散の動きを見せたという。

今年に入って社会問題化したことを受け、「ディープフェイクス」動画のアップロード先となった「レディット」や大手ポルノサイト「ポルンハブ」、ＧＩＦ動画共有サイト「ジフィーキャット」などでは、排除の取り組みを相次いで表明した。

だが、この問題を追及してきたネットメディア「マザーボード」によると、これら排除を表明したサイトでも、なお「ディープフェイクス」の動画のアップロードは続いている、という。

「ディープフェイクス」の被害は、有名人に限らない。

ポルノ動画に元交際相手の顔を貼り付けるなどのリベンジポルノとしての被害も、すでに発生しているようだ。

そして、ベルギーのような政治キャンペーンでの「ディープフェイクス」動画が広がっていくと、どのような影響が出るのかという点に、関心が集まっている。

●安全保障と民主主義

テキサス大学ロースクール教授のボビー・チェスニー氏とメリーランド大学ロースクール教授のダニエル・シトロン氏は２月、安全保障関連のブログメディア「ローフェア」に「ディープフェイクス」問題を取り上げた記事を掲載。

この中で、「ディープフェイクス」の拡散は、国家安全保障の脅威となり、「民主主義が有効に機能するために必要な信頼を損なう恐れがある」との危険性を指摘している。

そんな懸念を裏付けるようないくつかの先例もある。

２０１７年６月、中東のカタールを巡り、周辺のサウジアラビアなどアラブ諸国が突如、国交断絶を表明するという騒動があった。

この騒動の発火点となったのは、カタールの国営通信へのサイバー攻撃によって仕込まれたフェイクニュースだった、と報じられている。

※参照：カタール断交の火付け役はフェイクニュース―”ネット工作”の値段とは

さらに今年４月には、米英仏によって行われたシリアへのミサイル攻撃について、英労働党の影の内閣の内相、ダイアン・アボット氏が、戦闘機が市街地を攻撃する画像とともに非難のツイートを投稿した。

だが、この画像は架空のシミュレーション画像だったことが明らかになっている。

※参照：「シリア攻撃」をめぐるフェイクニュースの情報戦

チェスニー氏らは、このような騒動が、よりリアリティをもって起こる可能性がある、と指摘している。

●ＡＩ研究者らの賭け

ジャーナリストのジェレミー・スー氏は、６月２２日付けの米国電気電子学会（ＩＥＥＥ）の学会誌「スペクトラム」の記事で、ＡＩ研究者たちの間で、ある賭けがおこなわれている、と紹介する。

１１月にある米中間選挙で、候補者に関する「ディープフェイクス」の動画が、”フェイク”と見破られる前に２００万回を超す視聴回数を獲得できるか、という賭けだ。

賞金はカクテルのおごり、という他愛もない賭けだが、議論のポイントは、簡単には見破れない「ディープフェイクス」動画が、一体いつの時点で実現するのか、という疑問だ。

現時点では、画像の粗さなども目につき、社会的な影響を与えるような「ディープフェイクス」動画が米中間選挙で登場するか、については否定的な声が多いという。

だがそれも、２０２０年の次の米大統領選では、となると事情は違ってくるようだ。

スペースＸ、テスラＣＥＯのイーロン・マスク氏らが立ち上げたＮＰＯ「オープンＡＩ」の戦略コミュニケーション・ディレクター、ジャック・クラーク氏は、「スペクトラム」の記事の中で、中間選挙への影響については否定的な立場ながら、次の大統領選については、こう述べている。

私の推定では、２０２０年までには、この種のテクノロジーはさらに広範に普及し、安価になっているだろう。つまり、誰かがそれ（「ディープフェイクス」動画）を実行する、という危険性については、我々は十分に織り込んでいるはずだ。

クラーク氏は、さらにこう指摘する。

私が考えているのは、面白いフェイク動画をつくることが、今の「ミーム（バイラル画像）」をつくるみたいな娯楽のレベルになった時、何が起こるのか、ということだ。 ただ、それを楽しいからやる、という人々が束になると、個別の悪者たちよりも、ずっと危険な存在だ。

●「まばたき」で判定する

そんな「ディープフェイクス」動画を識別するための研究も登場している。

ニューヨーク州立大学アルバニー校の研究チームは６月、「ディープフェイクス」のある特徴に着目した論文を発表した。

それは「まばたき」だ。

通常は１分間で１７回程度行われるという「まばたき」が、”顔交換”の加工を行った「ディープフェイクス」動画には反映されていない。

このため研究チームは、畳み込みニューラルネットワーク（ＣＮＮ）を使い、登場人物のまぶたの開閉を判定する仕組みをつくり出した、という。

●オバマ氏の動画で、プーチン氏を動かす

一方で、よりリアルな動画加工のテクノロジーもまた、進化を遂げている。

ドイツのマックス・プランク研究所や米スタンフォード大学などの研究チームが５月末に公開した「ディープビデオ・ポートレイツ」は、顔画像の貼り付けではなく、”表情”の転移を極めて自然に行うことに成功した。

「ディープフェイクス」で使われた敵対的生成ネットワーク（ＧＡＮ）の一種「条件付き敵対的生成ネットワーク（ｃＧＡＮ）」を使っている。

デモ動画では、ソースとしてオバマ元米大統領のスピーチ動画を使い、その目元や口元の表情の動きを、ターゲット動画であるプーチン・ロシア大統領の顔に、自然に取り込んでいる。

研究チームは、「フェイス２フェイス」と名付けた同種の取り組みを数年前から続けており、今回の「ディープビデオ・ポートレイツ」はその進化形だ。

８月に開かれる米国情報機械工学会（ＡＣＭ）のＣＧ分科会「シーグラフ２０１８」で発表予定だという。

デモ動画をみる限り、動画の加工の有無の判別は、かなり難しそうだ。

そして、「ディープビデオ・ポートレイツ」では、ニューヨーク州立大学アルバニー校の研究チームが、「ディープフェイクス」判定の手がかりとした「まばたき」まで、加工動画に反映させることができている。

研究チームのメンバー、ミュンヘン工科大学のユストゥス・ティース氏は、英レジスターのインタビューにこう答えている。

この”（動画）再現”プロジェクトの倫理面での影響については、認識している。 それこそが、私たちがこの研究結果を公開した理由でもある。人々が改ざんのテクニックの可能性を知るようになるのは、重要なことだと思う。

そして、このテクノロジーの「表と裏」について、こう述べている。

“顔再現”には、多くの有益な活用法もある。よく知られた例では、映画の吹き替えや、ポストプロダクション全般での利用だ。ただ画像の操作手法に関する今のガイドラインは、かなり古い。映画業界では、数十年にわたって”特殊効果”を使っているが、同じようなテクニックが画像改ざんにも使える、ということについては、誰も気にしていない。

同種の研究では、ワシントン大学の研究チームが昨年、音声ファイルをもとに、リアルな”口パク”動画を生成するという成果を発表している。

※参照：２０３０年、ＡＩはフェイクニュースをどれだけ進化させるのか？

表情、そして話す内容まで、自在に操作することができるそれぞれのテクノロジーは、すでに開発されているのだ。

●検知システムと法規制

国防総省の国防高等研究計画局（ＤＡＲＰＡ）は、２０１５年に研究助成プロジェクト「メディア・フォレンジクス」を立ち上げ、画像や動画の改ざんを自動検知するプラットフォームの開発に乗り出している。

そして、法規制への動きも出ている。

ニューヨーク州議会では５月末、「ディープフェイクス」のような動画加工を、個人のプライバシーや肖像権を侵害するものとして禁止する法案が提出された。

法案で、「ディープフェイクス」に関連する条文には、こう記されている。

個人のデジタル複製物の使用が、個人の同意なく、オーディオビジュアルのポルノ作品として、デジタル複製物に表示される個人が演じているとの印象を与える意図を持って、かつ実際に与える場合には、権利侵害に該当する。

この法案に対しては、特に影響の大きい映画業界から「定義があいまいだ」として即座に反発の声が上がっている。

米国映画協会（ＭＰＡＡ）は、法規制が「表現の自由」を侵害する、と指摘。ディズニーやＮＢＣユニバーサルなども相次いで反対声明を出している。

●テクノロジーと政治

テクノロジーはすでに政治に深く浸透している。

「ディープフェイクス」が登場する前年の米大統領選でも、候補者に絡んだフェイク画像は、ネットに氾濫していた。

さらに、フェイクとは言えないまでも、世論の分断を意図したような画像やソーシャル広告が、ロシア発で拡散したとの疑惑も、すでに指摘されている。

※参照：米社会分断に狙い、ロシア製３５００件のフェイスブック広告からわかること

また、フェイクニュースの氾濫には、自動拡散プラグラム「ボット」が大きな役割を果たしていたことも明らかになっている。

※参照：「ボット」が民主主義に忍び込む：オックスフォード大ハワード教授に聞く

※参照：フェイクニュースは最激戦州を狙い、そして氾濫した

「ディープフェイク」動画を巡る騒動は、まさにその地続きにある。

「氾濫するかどうか」ではなく「いつ氾濫するか」。そして、「どう対応するか」。そんな議論のタイミングに来ているようだ。

——–

■新刊『信じてはいけない 民主主義を壊すフェイクニュースの正体』（朝日新書）

■デジタルメディア・リテラシーをまとめたダン・ギルモア著の『あなたがメディア ソーシャル新時代の情報術』（拙訳）全文公開中

※このブログは「ハフィントン・ポスト」にも転載されています。