ステージの上には黒い板状の物体が置かれている。その物体の人の目の高さあたりの位置で、青い光の点が形を変えながら発光している。

これはIBMの人工知能（AI）「Project Debater（プロジェクト・ディベーター）」の実体ではない。観客がサウンドシステムから流れる音声を聞きながら目を向ける先として、ただ置かれただけのものである。

約半年で洗練された「プロジェクト・ディベーター」

IBMのプロジェクト・ディベーターはその名の通り、ステージ上で二者が交互に意見を述べるフォーマルなディベートのためにつくられたソフトウェアだ。

過去に『WIRED』US版でも2018年6月に取り上げている［日本語版記事］が、当時のプロジェクト・ディベーターはたどたどしい、子どもっぽいマシンだった。自分が議論のどちら側の意見を述べているのかわからなくなってしまったり、挙げるべき根拠を間違えたりしていたのだ。

ところが、数百人の聴衆を前に行われた19年2月のディベートでは、プロジェクト・ディベーターはかなり垢抜けていた。洗練されたと言っていいほどかもしれない。そして、どこか気味が悪かった。

この日の司会を務めたのは、討論会を主催する団体インテリジェンス・スクエアードUSのジョン・ドンヴァンである。そのドンヴァンも言っていたが、この場で重要なのは議論に勝つことではなく、何らかの真実に到達すること、考えを礼儀正しく交換することによって「公開討論のレヴェルを向上させる」ことにある。

これはIBMにとっても願ったりかなったりだったはずだ。プロジェクト・ディベーターの目的は、相手を説き伏せることではない。人間の話を理解するロボットをつくり、人々が複雑な考えを理解するのを助けることにあるからだ。もちろん、そのどちらもやってのける高度なロボットが開発される可能性もある。

プロジェクト・ディベーターの挑戦を受けた、ディベートチャンピオンのハリシュ・ナタラジャン。オックスフォード大学とケンブリッジ大学で学んだ投資家でもある。PHOTOGRAPH COURTESY OF IBM

データを使いこなし、冗談も言う

この日の議論のテーマは、ディベートチャンピオンのハリシュ・ナタラジャンにも、プロジェクト・ディベーターにも（ステージ左側から状況を見守る4人のプログラマーたちにも）、開始15分前まで知らされていなかった。

議題は「政府は就学前教育（プレスクール）に助成金を出すべきか」。プロジェクト・ディベーターは賛成、ナタラジャンは反対の立場をとった。

ちなみにプロジェクト・ディベーターの声は、アマゾンのAIアシスタント 「Alexa（アレクサ）」に比べると合成音声らしく聞こえるが、「女性の声」をしている（もちろん、そんなものは言葉のあやでしかない）。あらゆる人がプロジェクト・ディベーターを「彼女」という代名詞で呼ぶが、ここではやめておこう。

さて、IBM側の代表者いわく、プロジェクト・ディベーターは100億の文からなるコーパス（文例のデータベース）を引用し、それを構文解析し、議題のコンテクストや相手の発言に合わせて理解する。さらに、それらの議論の内容を結びつけることもできる。ディベート中は学習から推論のシミュレーションに移り、議論で展開された主張に含まれるジレンマをモデル化し、相手の機先を制するという。

プロジェクト・ディベーターが国連経済協力開発機構（OECD）や米国疾病対策センター（CDC）の統計を使いこなしていたのは感心した。どの統計を使うのが妥当か、人間と同じように的確に判断できていたのだ。

だが、自分のパーソナリティを表現しようとする試みの成果は、横ばい状態だった。プロジェクト・ディベーターはナタラジャンを名前で呼び、「問題はふたつあります。詳しく見ていきましょう」といった具合に、高校の作文レヴェルの構文を使った。

冗談も言った。貧しい家庭のために就学前教育に助成金を出すことは有益だと主張しながら、「わたしは実際に貧困を体験することはできませんが」と発言したのだ。

反論を始める際には、「たまに反対意見の人たちの話を聞きながら、『いったい彼らは何がしたいんだろう』と考えることがあります」とも言った。プロジェクト・ディベーターは人間が会話で使う「うーん」や「ほら」といった間投詞を使うこともあったが、それをロボットが使うたびに妙な感じがした。

ディベートチャンピオンもAIを“人間扱い”

人間っぽい言葉遣いよりもさらに奇妙だったのは、ナタラジャンまでがつられてプロジェクト・ディベーターを人間扱いしていたことだ（おそらく、ナタラジャンなりの技法を披露しようとしていたのだろうが）。

彼はプロジェクト・ディベーターの主張を間違った意見だとし、助成金を出したからといって、「プロジェクト・ディベーターが心配しているような貧しい人たちが、子どもをプレスクールに入れられるようになるわけではない」と発言した。

これは関心を引く主張ではあるが、コンピューターがなにかを心配することができる、ということを前提にしてしまっている。だが、コンピューターは心配などできないのだ。それは美辞麗句にすぎる過大評価というものだろう。

一方、ナタラジャンの議論の戦略は、だいたいプロジェクト・ディベーターより着実に決まっていた。彼はこう結論づけた。「われわれの意見の違いは、思ったよりも小さいようです」。歩み寄りの姿勢を示して、聴衆を自分の側にひきつける作戦だ。

さらに彼はこう言った。「貧困層の人々は、子どもを質の高いプレスクールに通わせようともがくことでしょう。自分たちの収入ではかなわない、質の高いプレスクールに子どもを通わせようともがくことでしょう。子どもをプレスクールに通わせるために必要な努力と時間の価値を見極めない限り、質の高いプレスクールに通わせようともがくことでしょう」

ここで彼が使ったのは、文を繰り返して強調する「首句反復」という修辞技法だ（英国の首相ウィンストン・チャーチルの第二次大戦中の演説「われわれは海岸でも戦うだろう。われわれは水際でも戦うだろう。われわれは野で、街頭で、丘で戦うだろう」がその例である）。人間から来たこの発言は、トースターのような機械の発言よりも、よほど信頼できるように感じられた。

AIは「考える」ことも「願う」こともない

このような形式的な議論は、慣れていない者にとっては奇妙な感じがするものだ。討論者は必ずしも自分の考えを主張するわけではない。人間の討論者は自分の議論のスキルを見せつけるために、反対・賛成どちらの意見であっても、もっともらしく主張できなければならないと考えられている。つまり、討論者はすでに少し人間らしくないところがあるのだ。

それゆえ、プロジェクト・ディベーターが人間らしくなくても、たいした違いはないといえるかもしれない。

プロジェクト・ディベーターはどんな意見でも主張できる。どんなことも信じていないからだ。どんな発言をしようと、実際には何も「疑問に思ったり」などしていない。以前の対戦相手のことも覚えていない（以前のディベートに基づいてプログラマーたちがプロジェクト・ディベーターの技術に磨きをかけるという意味では、「覚えている」という言い方もできるかもしれないが）。

プロジェクト・ディベーターは「考える」ことも「願う」こともない。ジョークを言うことはできるが、自分の言ったジョークを面白いと思うこともない。面白いとはどういうことか知らないからだ。ジョークに聞こえても、それはジョークのような音声にすぎない。

プロジェクト・ディベーターは、ユーモアが聴衆をリラックスさせることも、より高度な概念作業のための潤滑剤になることも知らない（プログラムした人たちが、暗黙のうちにこの知識を伝えていくことはあるかもしれない）。

レプリカントを巡る哲学的な問い

それを考えると、本当に気味が悪くなった。議論をしている人、あるいはモノが事実、意見、ジョークのオチの区別もできないまま議論をするということには、なんだか反社会的な感じがする。

プロジェクト・ディベーターは、わたしたち聞き手が理解できるように言葉を並べていた。それは情報かもしれないが、知識ではない。

ステージ上でプロジェクト・ディベーターのふりをしている青いライトを見ながら、思い出していた。映画『ブレードランナー』の主人公デッカードは、映画のヒロインのレイチェルがレプリカントであることを知ったとき、こう言った。「どうしたら（自分が何者か）知らずにいられるんだ？」

だが、もちろんデッカード自身も、自分が何であるか知らなかったのだ。もしかしたら、職場で近くに座っている人たちも、わたしがユーモアがどんなものか知らないと思っていて、くだらない駄じゃれを言うのはやめてほしいと考えているかもしれないのだから。

哲学で中心となる問題のひとつは、自分が知っていると思っていることをどうして知っていると言えるのか、そして、その知識を信じられるかどうかということだ。プロジェクト・ディベーターの幅広い分散型のアルゴリズムを「信憑性がない」と非難する資格が、わたしにあるのだろうか？

目的は「人間らしくなる」ことではない

さて、ディベートの結果はどうなったか？ 勝者を決めるために、インテリジェンス・スクエアードは聴衆が賛成か反対か、議論の前と後に採決をとった。この採決で、ディベートを通じてより多くの人に意見を変えさせ、自分の支持につけたほうを勝者とした。

結果はナタラジャンの明らかな勝利だった。彼はかなり不利な立場でディベートを始めた。ディベートの前には彼と同じ「反対」の意見の人は13パーセントしかいなかったのだ。しかし、議論後には「反対」は30パーセントに増えていた。

イベントが終わってすぐ、IBMリサーチのディレクターを務めるダリオ・ジルと話した。「うまくいったと思います」と彼は言った。「ここ1年ほど苦労していた問題のひとつが、対立関係をはっきりさせることだったので」

つまり、プロジェクト・ディベーターが一貫して同じ立場から根拠を示せるようにする、ということだ。今回のディベートにおいて、そこはきちんとできていた。

この点が、プロジェクト・ディベーターとレプリカントの違いだ。つまり、プロジェクト・ディベーターの目的は、本物よりもっと本物らしく見えることではないのである。

「わたしたちが重視しているのは、根拠に基づいた、首尾一貫した主張を組み立てる能力です」と、ジルは言う。「あなたは、人間1人あるいは人間5人を殺すトロッコを制御しています。どうしますか？」とか、「決めた。自分の母親について話します」といった難題について議論することが重要なのではない。IBMにとって、ディベートは「スタークラフト2」と同じで［日本語版記事］、新しいマシンの特質をテストする場に過ぎないのだ。

「やがてAIはわたしたち人間と仕事するわけですから、これが人間ではないとわきまえておくのがいいでしょう」とジルは言う。だが、スマートフォンからある行動に賛成か反対か意見してくる議論好きな相棒が欲しいかどうかと言われると──。そこは議論の余地があるだろう。