1899年、世界の列強はオランダのハーグで、航空機の軍事利用を禁止する条約を採択した。当時の新技術だった航空機の破壊力を恐れてのことだった。5年後にモラトリアムの期限が切れ、間もなく航空機は第一次世界大戦の大量殺戮（さつりく）を招いた。

ワシントンにある無党派シンクタンク「新アメリカ安全保障センター（CNAS）」のフェロー、グレッグ・アレンは「そのあまりの強力さがゆえに人々を魅了してしまう技術は確かに存在します」と話す。「人工知能（AI）もそのような技術のひとつであり、世界中の軍隊が基本的には同じ結論に達しています」

アレンらは2017年7月、AIなどの最新技術が国家安全保障に及ぼす影響について、132ページにわたる報告書［PDFファイル］にまとめた。報告書はひとつの結論として、自律ロボットのような技術が戦争や国際関係に及ぼす影響は、核兵器のそれと同等だと述べている。

報告書の発行元はハーヴァード大学ベルファー科学国際情勢センターで、米国家情報長官直轄の研究機関「インテリジェンス高等研究計画活動（IARPA）」の依頼を受けて作成された。鳥のように機敏なドローン、ロボットハッカー、リアルなニセ動画をつくり出すソフトウェアなどの技術が、なぜ米軍とそのライヴァルに強大な力を与えるかを詳述している。

これらの新技術は、米国をはじめとする国々に、倫理、政治、外交上の難しい判断を迫る可能性がある。最新技術を用いて新しい兵器を開発することと、その用途の許容範囲を判断することは、まったく別の問題だ。報告書は米国政府に対し、国際条約によって制限すべきAIの軍事用途について検討すべきだと提言している。

AIで生まれる新たな世界秩序

米軍は以前から、さまざまな種類のAIに投資し、テストを行い、配備までこぎ着けている。連邦議会も2001年、地上戦闘車両の3分の1を15年までに無人化するよう命じている。

この目標は達成されなかった。しかし、AIはここ数年で急速に進化し、グーグルやアマゾンといった企業を活気づかせているため、軍事分野でも前例のない勢いでイノヴェイションが生まれるはずだと報告書は予想している。「たとえAIの基礎研究と開発が突然、いますべて止まったとしても、あと5～10年は応用研究ができます」とアレンは話す。

現在の米国では官民そろってAIに巨額の投資が行われている。そのため短期的に見れば、AIは米国が世界の軍事大国としての地位を固める新たな手段になると報告書は指摘している。

例えば、ロボットがもっと賢く素速く動くようになり、陸軍や空軍を支援したり、一緒に働いたりできるようになるだろう。そうすれば、イラクやアフガニスタンでの軍事作戦に欠かせない、ドローンや無人戦車に乗せることができる。つまり、あらゆる作戦で、必要とされる兵士の数が少なくなるか、0になるということだ。

報告書はまた、米軍は近い将来、サイバー戦争における攻撃力と防御力を大幅に拡大できると予想している。敵のネットワークを探って標的にする作業や、偽の情報をつくる作業を自動化できるためだ。米国防高等研究計画局（DARPA）は16年夏、サイバー戦争の自動化テストとして、7つのロボットに互いを攻撃させ、同時に自身の不具合を修正させるコンテストを開催した。

AI関連技術の進歩は将来、国際的な力関係を揺るがす可能性もある。小さな国や組織が、米国のような大国を脅かしやすくなるためだ。核兵器の開発はかつてないほど容易になっているかもしれないが、必要な資源や技術、専門知識はまだ入手しやすいとは言えない。

一方、コードやデジタルデータは安く手に入る場合が多く、最終的に無料で拡散するものもある。マシンラーニングは広く利用されるようになり、画像認識や顔認識も、今では地元のサイエンスフェアに登場するまでになった。

報告書はさらに、ドローンによる配達、自律走行車といった技術のコモディティー化は非対称戦争の強力なツールになり得ると警告している。すでにイスラム過激派組織のISISは、民生用のクワッドコプターで敵軍に手りゅう弾を投下している。同様に、サイバー戦争の自動化のために開発された技術が、ハッキングツールやサーヴィスを取引する闇市場に登場することも予想される。

世界一よりも協調が必要な「AI外交」

15年、研究者や科学者、マイクロソフトやグーグルなどの企業幹部3,000人以上が、当時のバラク・オバマ政権に対して、ロボット兵器の禁止を求める書簡を渡した。署名者のひとりであるアレン人工知能研究所のオーレン・エツィオーニCEOは、「誰かを殺すかどうか、いつ殺すかを判断する完全自律型のシステムを配備すると聞いたら、ほとんどの人がとても嫌な気持ちになると思います」と話す。

ただし、ひとつの国が配備を決断すれば、他国も気が変わる可能性があることをエツィオーニは認めている。「おそらく、より現実的なシナリオは、各国がそのようなシステムを保有し、使用に関する厳格な条約を順守することでしょう」

米国防省は12年、殺傷力の行使にかかわる決断は人が下さなければならないという暫定的な方針を定めた。そして17年5月、これを恒久的な方針に変更した［PDFファイル］。

今回の報告書は、AIの規制をめぐる国際的な合意について、米国家安全保障会議や国防総省、国務省はいますぐ検討を始めるべきだと提言している。AIが社会に与える影響を研究するオックスフォード大学のマイルズ・ブランデージは、AIを制する者が勝利を手にするという発想から抜け出すことができるのであれば、「AI外交」は効果的になりうると考えている。

「世界一になることを最重視すれば、安全や倫理といった概念が隅に追いやられてしまいます」とブランデージは話す。「われわれは歴史上のさまざまな軍備競争で、協調と対話が実を結ぶ例を目にしてきたはずです」

核保有国が数えるほどしかないという事実は、非常に強力な軍事技術が必ずしも魅力的ではないことを証明している。「国家は、“この技術は不要だ”と主張することができます。核兵器がそれを証明してくれています」と、新アメリカ安全保障センターのアレンも述べている。

しかしAIは、国家安全保障においてさまざまな可能性を秘めている。米国とその同盟国、敵国が自制を続けるには、おそらく相当な忍耐力を必要とするはずだ。