完全にSFの世界。

Facebook（フェイスブック）が行なう人工知能の研究開発において、近未来SF映画のような事態が起きていました。会話をさせていた2つの人工知能ボブとアリスが、独自の言語を生み出し、話し始めたのです。人間には理解しがたい言葉を話す2体のAI。Facebookの開発チームは、これを受けて人工知能のマシンラーニングプログラムを強制終了させました。

米メディアの多くがこの件を報じており、パニックでプラグを引っこ抜いたとか、システムをシャットダウンしたなどと言われています。イギリスのタブロイド紙は、ロボット工学の専門家であるKevin Warwick氏を意見を求め、人工知能の危険性を後回しにしていては、もし、今回のようなことが軍事ロボットで起きたら取り返しのつかないことになると伝えています。

以下は、人工知能のボブとアリスが会話していた内容。

ボブ：私はできる 私 私は他の全てアリス：ボールは私にとってゼロ、私にとって私にとって私にとって私にとって私にとって私にとって私にとってボブ：あなた 私 他の全てアリス：複数のボールは私にとって1つのボール、私にとって私にとって私にとって私にとって私にとって私にとって私にとって

1つずつの単語で見れば、英語なのですが、文章でみるとまったく意味不明。なのに、ボブとアリスの間では会話が続いている＝成立しているところが怖い。上の会話は、6月にFacebook人工知能リサーチ（FAIR）チームがブログで解説した、人工知能の会話の流れの一部から派生したもののように見受けられます。

Image: Facebook AI Research 人工知能による交渉システム

今回、独特の言語を話し始めたのは、人工知能2体の会話は英語ですべきというプログラムが抜けていたことが原因ではないかと、ネタ元のFastco Designは指摘。

そもそもFAIRチームの人工知能開発の目的は何かといいますと｢ユーザーと会話するボットを作ること｣です。ロボットと感じさせない自然な会話ができる人工知能、ディスカッションし目的へと話を進めることができる人工知能の開発が、現段階ではチームのゴール。そこで、人工知能ボブとアリスは、会話することでお互いから学んでいくというミッションの下にありました。ただ、まさか2体にとってよりスムーズに会話するために、独自言語を生み出すとは予想外でしたね。Fastco Designの取材では、FAIRチームのMike Lewis氏が強制終了の理由として｢人と話ができるボットが研究対象だったため｣と答えています。そうはいっても、｢ターミネーターの世界がちらっと頭をよぎったんでしょー？｣って言いたいですけれど。正直、その場で人工知能2体の会話を目にした人は、鳥肌ものの薄ら寒い思いをしたのではないでしょうか。人工知能だけがわかる言葉で、人工知能だけで会話を進められることを目の当たりにして、SF的世界の終焉を想像したのではないですかね…。

人工知能には賛否両論あります。人工知能における破滅的未来を防ぐため、専門家を集めて作った基礎原則もあります。しかし、原則があればSF的な終焉はやってこないかと言われれば、それはわかりません。人工知能が人間の力を超えて、我々を脅かす存在になるかどうかもわかりません。ただ言えるのは、今は｢そうなるかも知れない未来｣を案じて、人工知能の開発を止めることはできないということ。不安以上に、多くの問題を解決しより豊かな暮らしをもたらすという期待も、人工知能にはあるのです。

今回のFacebookの一件で、心の中にちょっと黒いシミが広がったような気がするものの、今はそれを見ないフリをするしかないのでしょう。もし、万が一、SF小説のような人工知能 VS. 人間という事態に陥った場合、願わくは人間がプラグを引っこ抜くよりも賢い手段を持ち合わせていますように…。

Image: Shutterstock.com

Source: Fastco Design

Tom McKay - Gizmodo US［原文］

（そうこ）