「人工知能（AI）が、うそをつく」

果たして、そんなことはあるのだろうか。

例えば、iPhoneでSiriに「青海までのルートを教えて」とお願いし、間違えて青梅までのルートを教えられても、私たちは「バグかな」とは思っても「Siriにうそをつかれた！」とは思わないはずだ。

「AIが人間の世界に入ってきたとき、果たしてうそをつかないと言い切れるでしょうか。例えば、スマートスピーカーがフェイクニュースを流す可能性だってあるかもしれない」

こう話すのは、東京大学の鳥海不二夫准教授。AIがうそをつき、見破り、ときには相手を説得する――そんな人間のように振る舞うAIエージェントの実現を目指す「人狼知能プロジェクト」を率いる。

月面着陸という壮大な目標を掲げ、その実現を目指すことで関連技術を発展させたアポロ計画のような「グランドチャレンジ」型の研究開発で、AI、対話エージェント、自然言語処理などの専門家がこのチャレンジングな目標に向けて協力することで、周辺技術の発展を目指すという。

「今はAIが狭い所に落とし込まれている感じがある。人工知能＝ディープラーニングみたいになるとちょっと違うし、そうじゃない方向性もある」と話す鳥海准教授は、人狼を「人間の本質に迫る所があるコミュニケーションゲーム」と評する。

将棋や囲碁AIの目標は「強くなること」だった。しかし、人狼知能プロジェクトのゴールはそこではない。「勝つためのAIは作れると思うが、そこが本質ではない」（鳥海准教授）

人間の本質とは何なのか。将来、AIと人間の関係はどうなるのか。少し先か、はたまた遠い未来なのか――AIと人が共存する社会には何が必要になってくるのかを想像してみたい。

AIが言うことを信じていいの？

―― 「人狼」は、プレイヤー同士で会話をしながら、うそをついたり、見破ったり、相手を説得したりと、とても複雑なゲームです。なぜこれほど高度なゲームを研究対象にしたのでしょうか。

鳥海准教授 プロジェクトは2013年にスタートしました。将棋ではAIソフトがトップ棋士に勝利し、囲碁も時間の問題なので次はどうしようと思っていました。

（お互いの正体を隠しながら会話する）人狼は不完全情報ゲームで定式化が難しいので、チャレンジングな課題としていいかなと。高度な知能を作るのが目標です。

（※編集部注：13年に将棋ソフト「ponanza」が初めて現役棋士の佐藤慎一四段に勝利。17年には囲碁ソフト「AlphaGo」が李世ドル九段に勝利）

―― AIもうそをつく時代になると。普段の生活で「AIにうそをつかれる」なんて考えたこともなかったです。と言っても、今はまだSiriやスマートスピーカーを使っているレベルですが。

鳥海准教授 いつかそのスマートスピーカーがうそをつくかもしれない。フェイクニュースを流したりするかもしれませんよ。今は基本的にAIが言ったことを人間は信じてますよね。回答の精度が悪いことはあっても、意図的に人間をだますようなことはない。

でも、例えばカーナビが示すルートを見て「いや、こっちの方がいいだろう」と思うことってありますよね。そういうことがこれからいろいろな分野で起きてきます。

1|2|3 次のページへ