グーグルはこのほど、人工知能（AI）を用いた新機能の提供を米国で試験的に開始した。「Google アシスタント」に「レジェンドみたいに話して」と指示すると、グラミー賞を受賞したジョン・レジェンドの低くて優しい声を真似てよどみなくしゃべってくれるというものだ。有望だが議論を呼んでいるAIの使用事例のデモンストレーションに、レジェンドは貢献したのである。

人の声を真似できるソフトウェアは、コンピューターとの会話をもっと楽しくする。しかし悪の手に渡れば、いわゆる「ディープフェイク」に使われることもあるかもしれない。いま、音声クローン技術はどのくらい優れているのだろうか？ グーグルのプロジェクトはその断片を垣間見せてくれる。

本物と聞き比べてみると……

『WIRED』US版は、フェイクの音声と本物のレジェンドを比較するために、オーディオクリップを作成した。これには、Googleアシスタントアプリの音声を録音したものと、レジェンドがレコーディングスタジオで収録する様子を収めたグーグルの動画を使用した。まずは下の音源を聞いてみてほしい。

ソフトウェアでつくった音声は、レジェンドにそっくりだ。「サンフランシスコ」と言うときの「ア」と「オ」の母音が似ているのが、いちばんわかりやすいだろう。一方で、この音声データからは、AIの声がいまだに人間の声とは完全には合致しないことも際立たせている。

グーグルがつくった偽レジェンドは見事である。しかし依然として、コンピューターで合成した音に特徴的な高い音が鳴っている。

検出ソフトはフェイクスコアが「98.9996点」と判定

そこで、あるスタートアップが『WIRED』US版のためにサンプルを分析し、この技術の強みと弱みを紹介してくれた。分析を引き受けてくれたのは、セキュリティのスタートアップ企業で電話を使った詐欺に対抗するソフトウェアを開発したピンドロップ（Pindrop）だ。

ピンドロップの研究者であるエリー・コーリーが、レジェンドの合成音声のサンプルを同社のフェイク検出ソフトウェアにかけたところ、ソフトウェアは騙されなかった。このオーディオクリップは「合成されている」とのスコアが、100点中98.9996点だったのである。

どのように本物とフェイクの声を識別しているのかについて、ピンドロップは詳細を明らかにしない考えだ。しかしコーリーは、声のリズムに注意を払うことや、「f」や「s」の発音の仕方といった、ボットを見分けるためのヒントをいくつか教えてくれた。

Googleアシスタントのほかの声と同じように、レジェンドの声はWaveNetと呼ばれる音声合成技術を用いてつくられている。WaveNetは16年末に、グーグルの親会社アルファベット傘下のAI研究企業であるディープマインド（DeepMind）によって開発された。コーリーはWaveNetについて、音声合成の進化における飛躍だと話している。

あの電話予約ボットにも採用された技術

グーグルは17年にGoogleアシスタントの音声をアップグレードした際、何百万人ものポケットにこの技術をしのばせた。WaveNetは、電話による会話でレストランを予約してくれる同社の電話予約代行ソフト「Duplex」にも利用されている。

関連記事：グーグル「Duplex」が浸透すれば、ボットと人の区別がつかない未来がやってくる

WaveNetの音声は、テキストとそれを読み上げる音声録音を集め、機械学習アルゴリズムを訓練してつくられる。コーリーによると、このプロセスは発話音声の波形を捉えるという点において、従来の手法よりも優れているという。ディープマインドが投稿した音声サンプルのように、訓練されたWaveNetはどんなテキストからも驚くほど滑らかな音声を生成することができる。

ディープマインドによると、この新技術は事前情報なしで本物とフェイクを聞き分けるテストにおいて、発話音声のライブラリーから段階的に文章を合成していくような従来の手法と比較して、本物とフェイクの感じ方の差を半分以下に縮めたという。従来の手法は、要するにアップルの「Siri」のようなしゃべり方だ。

合成された音声の弱点

Googleアシスタントのデフォルトの音声や今回のレジェンドの声など、WaveNetでつくった音声にも依然として少しだけ機械っぽさがみられる。その一例は、抑揚がおかしいことだ。

フェイクのレジェンドからは、本物にある聞きやすいリズムが欠けている。もうひとつは、子音、特に声道を狭めて息を摩擦させることで聞こえる「f」「v」「s」などの摩擦音だ。

このような子音は人間の周波数帯のいちばん上まで達する。合成音声ではほとんどの場合で高周波数帯が取り除かれてしまうので、このような音を再現するのにいつも苦労する。そして高周波数帯が取り除かれても、しゃべっている内容は伝わるのである。

グーグルが合成したレジェンドが「サンフランシスコ」と言っているスペクトログラム（上）と、本物のレジェンドが「セモリナ」と言っているスペクトログラム（下）。PHOTOGRAPH BY PINDROP

このような弱点は、偽物のレジェンドが「サンフランシスコ」と言っているスペクトログラムと、本物のレジェンドが「セモリナ」と言っているスペクトログラムを並べると視覚的に明らかになる。この図は、音のエネルギーが各周波数にどのように分布しているのかを示している。画像の左側にある最初の赤いエリア（どちらの画像も「s」の音を示している）を比較すると、本物のレジェンドのほうが高い周波数まで達している。

偽物が不自然に聞こえるワケ

コーリーによると、偽物のレジェンドの子音には、人間が発話したときには自然に生じない、おかしなクリックノイズも含まれているという。これは合成音声によく見られる弱点である。発話を連続した波形として扱うので、ときどき人間には発することのできない音をつくってしまうのだ。人間が発せない音は、声帯の大きさや、口をある形から別の形へどのくらい早く動かせるかといった、解剖学的な制約に起因する。

このところ音声や動画を偽造するAIソフトウェアが改良されていることを受けて、研究者や法学者、政策立案者の一部は、技術が悪用されることを懸念している。ネブラスカ州選出の上院議員（共和党）であるベン・サスは18年12月、悪意をもってフェイクの音声や動画を作成または配布することを刑法上の罪に問うという法案を提出した。活発なオンラインのサブカルチャーではすでに、機械学習を使用して無関係な人々をポルノ動画に登場させている。

音声がよりリアルに近づいたとしても、Googleアシスタントの設計では、犯罪の片棒を担がせることは難しい。ソフトウェアに何をしゃべらせるかを命じることはできないし、どの質問に答えるのかをコントロールしているのはグーグルだ。

ピンドロップの最高経営責任者（CEO）であるヴィジェイ・バラスブラマニヤンは、アルファベットが研究成果として公開している基盤技術を他者が悪用することで、このような脅威が生じるだろうと話している。ピンドロップはすでに、音声変換ソフトウェアを使用して企業を騙す詐欺師を捕まえている。例えば、男性が女性になりすまして金融口座へのアクセスを得られるようにするのだという。

基になる音声データの量と声の質は比例する？

グーグルがもたらしているような技術は、どれほどよいものになるだろうか？ バラスブラマニヤンは、これまで聞いたWaveNetの音声のなかで、レジェンドの声がいちばんではなかったと語る。

というのも、16年にディープマインドからリリースされたサンプルは、もっと質が高いようなのだ。おそらく話者の音声を、レジェンドよりも多く録音できたからだろう。もしくは、サンプル音声ではユーザーの質問にリアルタイムで返答して音声を生成する必要がなかったからかもしれない。

PHOTOGRAPH BY GOOGLE

ディープマインドは、これらのサンプル音声を作成するために25時間分の音声データを使用したという。一方、4月にリリースしたレジェンドの音声をつくるために、グーグルがレジェンドの声を何時間録音したのかは明らかではない。

レジェンドは米メディア『People』に対し、10日ほど続けてレコーディングスタジオに行き、さまざまな抑揚をつけて単語やフレーズをしゃべったと話している。レジェンドの広報担当者は『WIRED』US版からの質問には答えていない。グーグルは、フェイクのレジェンドをつくるために何時間の音声を使用したかを明言しなかった。

電話という“フィルター”の効果

グーグルのディストリビューテッドエンジニアであるヨハン・スコールヴィックは、メールでの質問に対して「大規模なデータセット」であったと説明している。ありとあらゆる音と発話のパターンをカヴァーするために、スクリプトを注意深く選ぶ必要があったという。

例えばレジェンドは、「顎下腺、下顎の下にある一対の唾液腺のいずれか」といったフレーズまで読まなければならなかった。スコールヴィックは、フェイクのレジェンドの正確性や本物との近さをグーグルがどのようにテストしたかについては説明していない。

下の音声データは、電話を通すと合成した音声がより本物（人間）として受け取られやすくなることを示している。これは電話では通常、高い周波数が取り除かれるという歴史的な制約のためだ。この消音効果が、本物と偽物のレジェンドの間のコントラストを弱めている。

ここでスマートフォンを手に取って、Googleアシスタントに「嘘をついたことがあるか」と尋ねてみた。すると、レジェンドの声でこう返事をした。「わたしは常に真実を伝えるよう努めています。わたしは正直に、真摯に取り組んでいます」