人間のような理解力をもつ人工知能（AI）が実現するのは、一体いつになるのか。専門家でも意見が分かれるところだが、オバマ政権はその答えが自ずと出てくるのを待つつもりはないようだ。ホワイトハウスは、政府がAIというパワフルなテクノロジーをどう制御し、どう利用していくのかを検討し始めることを発表している。

「人工知能というものについて、正しい認識が必要です」とワシントン大学ロースクールのライアン・カロは語る。カロ氏は先日、今夏に開催されるホワイトハウス主宰の「来たるべきAIの世界にいかに取り組むか」を検討する全4回のワークショップの初回講演を行った。

この問題については政府がある程度の役割を果たすべきだという点で、学者や政治家たちの間では見解が一致している。しかし、例えばグーグルの自律走行車をいつどのように高速道路を走らせるかといった問題に対して、どんな政策を出すべきかは明確でないという。

「ひとつ確かに言えることは、AIは、すでに国の政策の立案を難しくしているということです。テクノロジーがより複雑化し、そして高性能化したとしても、それがあくまで安全で、制御や予測可能なものであることをどうやって確実に見極めるのか。こうした問題はテクノロジーが進歩するにつれどんどん起きるでしょうし、追いかけていく必要があります」。ホワイトハウスでAI研究を先導する米国科学技術政策局・副局長エド・フェルテンは言う。

RELATED ARTICLES 人工知能の暴走を防ぐ「非常停止ボタン」はつくれるか 人工知能は「音楽」なのかもしれない：“AIの父”マーヴィン・ミンスキーが残した謎 人間を破った人工知能をつくったDeepMindとは何者か？

グーグルの「AlphaGo」が世界最強の囲碁棋士に勝利をおさめたように、人工知能の一部はすでに人間の能力を凌駕しようとしている。

しかし、各システムのアプリケーションには制約が多く、まだ人間に依存しているのが現状だ。「〈知性〉と〈自律性〉は異なるものです。人間は、これらが一体化していますが、コンピューターにおいては状況によってまったく異なります」。アレン人工知能研究所の所長で、第2回ワークショップの講演者であるオーレン・エツィオーニは語る。

エツィオーニが指摘するように、AlphaGoは人間がボタンを押すまで、次の対戦を行うことはできない。しかし、研究者や政策立案の専門家が不安視するのは、その機械に情報をインプットするときに人間が犯すミスだ。機械は学習のために膨大なデータセットを必要と、そのデータの組み込みを行うのが、太古の昔からミスをし続けている人間なのである。

最近のホワイトハウスによるレポート（PDF）では、膨大なデータを識別する可能性についても説明されている。ビッグデータを読み取るためには、誰かがデータを分類しなければならない。さもなければAIに対して、人に内在する偏見や社会の不平等を組み込んでしまうことになる。

これはただの机上の話ではなく、現に、グーグルの広告配信アルゴリズムは高給の求人広告を、女性より男性により多く配信してしまったことがある。あるいは、『ProPublica』の最近のレポートによると、判決を下して執行猶予を言い渡した裁判官たちがリスク評価を行う際に、人種差別の傾向がみられるAIシステムを使ってしまっていたともいう。

人が金を借りるとき、就職するとき、あるいは、判決が執行猶予付きになるとき。もしもAIが決定権をもつことになったなら、そのシステムの正確性を担保するために組み込まれる「データのアカウンタビリティ」について、何かしらの基準を設けることがますます重要になる、とマイクロソフトの研究者ケイト・クロフォードは語る。

いわゆる自律走行車が衝突を回避する方法を即時判断するためにも、AIは活用されうる。新しいテクノロジーを制御しようとする際に問題になるのは、テクノロジー自体がまだ発展途上であるためだとブライアント・ウォーカー・スミスは言う。スミス氏はサウスカロライナ大学法学部の教授で、自律走行車に関する米国法整備を先導する専門家のひとりだ。

「発展途上」の段階では、より安全で信頼性のある機械をつくろうともいかなる制度設計も妨げとなる、とスミス氏は言う。そのため、自律走行車のメーカーは、公共の安全について独自の対策を用意する義務を強いられることになる。

4時間弱にも及ぶ第1回セッションの様子は、YouTubeでも公開されている。各登壇者のプロフィールは、ワシントン大スクール・オブ・ローのサイトに詳しい。

ドローンからガンの早期発見に至るまで、現在のAIの新たな発展形をどう規制し、どう監督したらよいのかという問題について、米政府はすでに取り組んでいる。ホワイトハウスの科学技術政策室は、政府機関をいくつか集め、不信感ではなく事実証拠に基づいたアプローチを進めている。政府はどの程度までの範囲なら許容できるのか、そして人工知能をより安全なものにするための研究資金をどういったかたちで投入するのか、政府が検討しなければならない懸案事項となっている。

政府が世界中で使われているテクノロジーをキャッチアップしようとしているが、いまはAIがテクノロジーの初期段階にあるということを心に留めておくべきだろう。将来、AIをコントロールしていくためにも、人間がハンドルを握っているうちに、その土台を固めておく意義がある。