一杉裕志

草薙素子とAIの倫理問題

松田卓也（以下、松田） シンギュラリティを実現する超知能はどんな形態になるのでしょうか？ 多くの人は機械超知能をイメージしていますが、一杉さんはヒト型人工知能だと考えているのですか。

一杉裕志（以下、一杉） まずヒト型人工知能が最初に実現されて、人類はそのヒト型人工知能を使ってヒト型ではない人工知能も含めたより高度な人工知能を開発する、ということになると思います。

松田 『攻殻機動隊』は2029年の世界を描いています。主人公の草薙素子は、脳だけが人間で他はすべて機械になっている。人間は脳から直接インターネットにアクセスしています。そんなことも可能になると思いますか。

一杉 可能性はありますね。ほかにも遺伝子改変や薬物など、人間の能力増強の方法はいろいろあります。

松田 最近、米国にいる中国人研究者が、IQ1,000の人間をつくる、という論文を出しましたね。人類の知能に関係する遺伝子は1万ほどあるそうで、それを少しずついいものに変えていけば、IQを1,000にできると。IQ1,000というと、およそ1,000億人に1人の天才だそうです。

一杉 そんなことが本当にできるのかはわかりませんが、できるとしても倫理的な問題がありますね。倫理的な問題で中止になった技術はたくさんあります。一方で倫理の基準は時代とともに変わっていく面もあります。例えば、現在は地雷は人道的じゃないという共通認識がありますよね。

松田 原子爆弾はいいけど地雷はダメ、というのもおかしな話ですけどね。

一杉 そうですね。そしていまは、ロボット兵器に対する議論が始まっています。

松田 それについてはどう思われますか？

一杉 結局、戦争にもルールがあってお互いに損することはやめようよ、ということだと思います。ある国が軍備を拡張すれば、他の国も一緒に軍拡する。そうするとお互いに疲弊します。みんなが兵器をつくるためだけに働かなくてはいけなくなって、娯楽も何もする余裕がなくなる。だから軍縮会議を開いて、まあこれはやめようよ、ということにするわけです。

生命倫理に関しても、例えばクローン人間は条約で禁止してはどうかという議論がありました。そういうことを考えると、人工知能の用途や開発に関しても、議論をしてみんなが嫌だと思うことはやめようよ、という条約が結ばれることは十分ありえると思います。

日本は「大変なこと」になります

松田 日本の人工知能開発の現状はどうですか。

一杉 米国企業がすごく先行しているのは事実で、日本も頑張らなくてはいけないですね。公的研究機関、大学、企業、政府、投資家。みんなが頑張らなくてはいけない。そうしないと大変なことになると思います。

松田 「大変なこと」というのはどういうことですか。

一杉 危機感の温度差が人によってかなり違うと思うんですね。人工知能開発の競争を、単なる技術開発競争というレヴェルでとらえている人が多いのですが、それで済むのでしょうか。

松田 軍事はもちろん、科学や産業といったあらゆる側面でトータルな国力にかかわってくる問題ですね。

一杉 そうですね。また、わたしが最も恐れているのは、国と国との間の勝ち負けよりも、特定の集団が人工知能の技術を独占することです。それは国かもしれないし、企業かもしれない。あるいは、すごく小さな個人レヴェルの集団かもしれません。

松田 その可能性はありますね。ただ、ぼくはそういう人たちには悪意はないと思うんですよ。金儲けは悪意じゃないですから。「地獄への道は善意で敷き詰められている」といわれるように。

一杉 世界中の誰が高度な人工知能を開発してもおかしくない、とわたしは思っています。人工知能の開発に巨大な設備はいりませんし、必要な情報はすでにネット上にあります。だからどの国が次の人工知能を開発しても不思議ではない。そうすると、世界の軍事バランスが崩れて大混乱になる可能性がありますね。

松田 たしかに原理的にはそうですね。先ほど国際協調で悪意の人工知能開発を止めると言われましたが、現実的に可能でしょうか。

一杉 たしかに難しいでしょうね。核兵器の場合は、核物質さえ流出しないようにしておけば他の国はつくれないわけで、IAEAが原子炉を見ていればいいのでしょうが、人工知能技術の場合はどうすればいいのか…。たぶん将来は人工知能を使って人工知能研究者を監視するのでしょう（笑）。

松田 世界を滅ぼすような人工知能の開発が、どこかの地下室で行われるということも、十分ありえることですね。一方ジェフ・ホーキンスは、人工知能開発はそんなに危険とは思わないと言っています。ハッキングとかウィルスをばらまくとか、すでに危険はいくらでもあるのに、10年、20年先の抽象的な危険のことを議論してもしかたがないと。確かにそうかもしれません。

ただ、彼はこうも言っています。危険があるとすれば、それは人工知能を無制限にコピーすることだと。ひとつの人工知能の能力が1H（1ヒューマン=人間1人分の能力）だとしても、これを10の10乗個コピーすれば終わりです。コピーはただですし。つまり、人工知能の危険性は、そこにあるんじゃないですか。このようなネガティブな話は、あまり言わないほうがいいかもしれませんが（笑）。

<strong><a href="/ai2015/">人工知能カンファレンス「WIRED A.I. 2015」 12/1発売「AI特集号」にてレポートを掲載！</a></strong> 世界をリードするAI研究者たちとともに、人と機械と社会のこれからを考えた「秋の特異点祭り」。12月1日発売の『WIRED』VOL.20「人工知能」特集では、カンファレンスの内容をレポートするほか、登壇者らのオリジナルコンテンツにケヴィン・ケリーのAI論、グーグルに買収されたAIスタートアップDeepMindの軌跡を描いたロングストーリーを掲載！ 詳細は<a href="/ai2015/">こちら</a>から。

一杉裕志｜YUJI ICHISUGI

産業技術総合研究所 人工知能研究センター 脳型人工知能研究チーム主任研究員。理学博士。1993年に電子技術総合研究所（現・産業技術総合研究所）に入所後、プログラミング言語やソフトウェア工学の研究を行う。2005年より計算論的神経科学の研究に従事。全脳の情報処理アーキテクチャの解明を通じて、人類の役に立つ「人間のような知能」の実現を目指している。

https://staff.aist.go.jp/y-ichisugi/j-index.html 産業技術総合研究所 人工知能研究センター 脳型人工知能研究チーム主任研究員。理学博士。1993年に電子技術総合研究所（現・産業技術総合研究所）に入所後、プログラミング言語やソフトウェア工学の研究を行う。2005年より計算論的神経科学の研究に従事。全脳の情報処理アーキテクチャの解明を通じて、人類の役に立つ「人間のような知能」の実現を目指している。

逆転する貴族と奴隷

松田 人工知能による失業についてはどう考えていますか？

一杉 日本では少子高齢化が進んでおり、今後は労働力不足のほうが深刻な問題になってくると思います。いままで世界はアジアの労働力を使ってきたわけですが、アジアの人たちもどんどん生活水準が上がってきて人件費がかなり高くなってきている。今後はやはりロボット化、人工知能化が重要ではないでしょうか。つまり、いまは失業のほうが問題ですけれども、今後は労働力不足のほうが深刻な問題になるので、その対応をいまからやっておく必要がある。そのために人工知能開発を進めるべきだと思います。これについては、違う意見をもっている方もいるかもしれませんが。

それに、いま現在でも、日本人の半分くらいは働いていないんですよね。定年退職した人以外にも、社会保障で暮らしている人や、学生も大学院まで進む人が増えました。自動化によって仕事を奪われる人たちは反対するわけですが、その一方で働いていない人たちにとっては、社会福祉の原資を増やすために生産性が上がってくれたほうがいい。その闘いになるわけです。いまはちょうど拮抗していますが、今後は働いていない人たちの方が優勢になります。「自動化賛成派」が選挙で勝つ時代も、そんなに先ではないと思います。

松田 なるほど、面白い視点ですね。

一杉 少子化とか人口減少も含めて、そういう状況は世界のなかで日本が最も進んでいます。わたしたちより下の世代には老後がないんですよ。75歳まで働かなくてはいけない世の中なっていきますよね。

松田 いまのトレンドなら、ですね。

一杉 そう、人工知能をつくらなければ、です。人工知能を使って生産性を高めれば、夢の老後がやってくる（笑）。だから、若い人ほど人工知能が必要なんです。

松田 たしかに人工知能のメリットは、年を取った人より若い人に訴えるべきなのかもしれませんね。当面は失業があるかもしれないけれども、人工知能で生産性を上げれば社会保障の原資は全部、人工知能がつくってくれる。そういう意味ではいまいちばん進んでいる人間はニートかもしれませんね。

一杉 貧富の差の拡大が世界的に問題になっていますが、日本の場合は「お金のない貴族」と、社畜と呼ばれる「お金のある奴隷」に分かれつつある気がします。この傾向はさらに進んでいくと思います。

松田 それは実に面白い。いま、世の中でばりばり働いて「俺が主人なんだ」と思っている人は、実は奴隷だと（笑）。

一杉 はい。わたしの周りでは有能な人はみんな奴隷です。みんな、ひーひー言って働いています（笑）。

松田 まさに価値観の転換ですね。他人はわたしのことを「年金もらって時間があっていいですね」と表向きはいいますが、本当はそうは思っていませんよね。気の毒な人だと思っているんです。だって昔は大学教授だったけど、いまは地位も仕事もないのだから。だけど、いまでは好きなときに花見に行ける。こんなバラ色の人生はない、ともいえますね。うちの家内はまだ働いているので、ぼくが花見に行くと「勝手に花見なんか行って」と怒りますけどね。でも未来の生活ってそうあるべきじゃないですかね。

そういう価値観の転換をいまから図っておく必要がありますね。ロボットが奴隷だったら問題ないわけですし。

AIに恋をしてはいけない

松田 先日、ボストンダイナミクスがネット上で公開した動画のなかに、動物型ロボットを蹴飛ばすシーンがあって、それを見た「ロボット愛護派」が文句を言ってきた、という事件がありました。

一杉 人間はそんなふうに思ってしまうようにつくられているんですよ。自分とは違う種までかわいがる生物は、ヒト以外にはほとんどいません。ヒトはもう1万年くらい家畜とともに生きてきたわけですが、家畜を利用できる種族は、そうじゃない種族よりもはるかに有利なので、動物をかわいがる感情をもつようにヒトは進化してきたのではないかと思います。その回路が誤動作してロボットを蹴ると「かわいそうだ」と感じるようになったんじゃないかと。

松田 誤動作ね（笑）。

一杉 あの件で面白いのは、牛みたいなロボットのときは蹴り飛ばしても問題にならなかったのに、犬サイズになると同じことをしても問題になった。犬は人間の同情を惹きやすいのかもしれませんね。そうならないように、わたしは、遠い将来にはロボットを醜くつくるガイドラインや法律をつくるべきだと考えています。

松田 興味深い提言ですね。これから公開される映画で『EX Machina』というのがあります。あるプログラマーが美形の女性形ロボットに恋をするというストーリーですが、そういうのは危険だというわけですね。

一杉 はい。いま、日本ではフレンドリーなロボットを開発しようとしている人が多いのですが、そういうロボットが人工知能とセットになると危険だと思います。

松田 そういえばこの前、ある方が「数年も経てば、メイド型ロボットと心中するオタク青年が出てくるだろう。それがいちばん心配だ」と言っていました。

一杉 十分ありえますよね。だけど、そういう人たちは子孫を残せないので、世代を経るにつれどんどん減るでしょう。

松田 なるほど（笑）。だけど、いまは技術の進化が速いので、子孫を残せるかどうかの淘汰説は効かないかもしれませんよ。2045年だってたかだか30年先ですから、世代が変わる時間もないですからね。

インタヴュー中の一杉裕志（左）と松田卓也（右）。