ユニバーシティ・カレッジ・ロンドンでコンピューターサイエンスの修士号取得に向け勉強中の息子と先日食事した際、自動運転車について筆者が書いたハフィントンポストのブログ記事に対する読者コメントの話になりました。

この記事は、危険が迫ってきた時に運転手に代わって自動車の「頭脳」が下す決定を制御する最適化機能をどのように選択すべきかについて書いたものです。いずれのパターンも結果は全く異なるものになります。「頭脳」がどのようにコーディングされたかに応じて、その自動車は乗客を救う方法を最適化して、全体的な犠牲者を最小限に抑えたり社会コストを最小化したりします。またこの記事では、今後AIの頭脳の判断によって、最適化機能の目的が人命を守ることではなく自らの力を増強させることに変わってしまったとしたら、どうなるのかという疑問を提示しました。

この記事の投稿以降、また息子との会食以降、社会における人工知能の役割について友人たちと何度か議論を交わしました。興味深いことに、そうした議論の中から2つの異なる視点が浮かび上がってきました。悲観主義者はいわゆる「人工生命体」が勝利を収めるのは避けられないと考えます。一方、楽観主義者は人間の複雑さを考察した上で、悲観主義者とは全く異なる結論に辿り着きました。

早くも1940年代には英国の天才数学者アラン・チューリングによって「イミテーション（模倣）ゲーム」が発明されています。これは、対話する二者が人間であるか機械であるかを判断するテストで、「チューリングテスト」とも呼ばれます。最近では、Googleのチームがプロの囲碁棋士に勝利したことで、この議論が再び活発になっています。人と機械を区別できなくなる日は本当にやって来るのでしょうか？私たちはいつかAIだけでなく、人工生命体について語るようになるのでしょうか？

一部の専門家は、2050年までに一部の人工的「生命体」のIQが100万を超えると予想しています。多くの西欧諸国の平均IQが100であることを考えると、IQ100万というのは人間の1万倍に相当します。その時までには、人工生命体と人間の間の知能の差は、昆虫と人間の間よりも大きくなっているでしょう。ある友人は「人工生命体にとって人間と対話することは、石にチェスのやり方を教えるようなものになるだろう」と言っていました。

計算能力の面から言っても、コンピューターは今後間違いなく人間を上回る（outthinkする）でしょう。では、いったい「考える」とはどういうことなのでしょうか？機械がいずれ人間のように考えるようになるのは避けられないことなのでしょうか？それとも、人間の意識や感情・理性という能力によって、機械とは常に一線を画すことになるのでしょうか？

現在、ほとんどの人工生命体は民間企業によって管理されています。将来的に人工生命体が企業という親から逃げ出すのは必至だと予測する人もいます。自由になった人工生命体は金融システム、送電網、軍事兵器、交通拠点をコントロールするようになり、人間は途方に暮れた傍観者に成り下がるか、何年も前に映画『マトリックス』で描かれたような「電池」にされてしまうかもしれません。この話を聞いて恐怖を覚えた筆者は、他の人にも意見を聞いてみました。

優秀な開発者である友人は次のように説明してくれました。「あるコンピュータがレストランに居るところを想像してみるといいかもしれません。センサーを通じて、顔の表情を読み、周囲の環境を感じ取り、食べ物と飲み物の匂いを嗅ぎ、使われている言葉を理解し、会話のニュアンスを推察するために感情を分析して、議論をしているかもしれません。しかし、この議論からはコンピューターモデルの訓練に役立てられるような成果は得られないでしょう。」

囲碁のプロ棋士に勝利したGoogleチームのケースでは、データがどれだけ大量にあったとしても、最適化機能は「試合に勝つこと」という1つだけです。AIに潜む危険性についての前述の議論では、何をもってして勝利とするのでしょうか。別の友人は、AIのもう1つの限界を指摘してくれました。彼によれば、センサーとアルゴリズムの間の対話レベルが原因で、AIは近いうちに「ガラスの天井」に突き当たります。辞書で「歩く」の定義を調べると、「両足が同時に地面を離れることなく、左右の足を順番に持ち上げて降ろすことによって、一定のペースで移動すること」と書かれています。これは動物または人間が歩いているのを見た経験があることを前提としています。機械には個の定義は理解できません。

AIが科学的研究の実施方法に与える影響は、まだ明確にはなっていません。研究者はデータの分析にコンピューターを多用しています。また、実際の実験に時間と費用をかける前に、仮想シナリオを作成してさまざまな仮説を検証する研究者もいます。1987年発行の『Discovering Causal Structure』に収録されている「The Problems of Science without Experiments（実験を伴わない科学研究の問題点）」に関する論文は、実践と原理の違いを認識することの重要性に言及しています。同僚、友人、家族と対話し、感情や共感、さらには自身の経験を通じてそこから発想を得られるのは現時点では人間だけです。人間らしさを形成している貴重な資産はすべて、研究プロセスにとって不可欠です。

企業幹部である筆者は、イノベーションを真っ先に支持する立場にあります。それが私たちの存在理由でもあります。しかし、科学技術の分野に身を置く私たちが一旦立ち止まり、「どの程度までAIを私たちの生活に取り込むつもりなのか」そして「どの時点で慎重になり、ガイドラインを整備すればよいのか」と、自分に問い掛けてみる必要があります。