わたしたちは人工知能（AI）に監視されている。AIは秘密裏に情報収集を行う場合に強力なパワーを発揮する。そしていまや、独裁政権だけでなく民主主義国家でも、この技術が政治的および社会的な管理ツールとして利用されるようになってきた。

アプリやウェブサイトを通じて収集されたデータが、広告やソーシャルメディアのフィードの最適化に使われていることは周知の事実である。だが、同じデータから個人を特定できる情報を引き出したり、その政治的傾向を分析して当局に知らせたりすることもできる。スマートフォンやスマートカメラ、AIの進化のおかげで、一連の技術はさらに洗練されてきているのだ。

スタンフォード大学のチームは2017年、写真に写っている人物がゲイかどうかを判定すると謳うアルゴリズムを開発した。精度はさておき、このようなツールは迫害や人権抑圧につながる恐れがある。

「この種のテクノロジーを街中に張り巡らされた監視カメラ網と組み合わせて、同性愛が犯罪とみなされるサウジアラビアのような国にもっていくと仮定しましょう」と、デジタル社会学者のリサ・タリア・モレッティは言う。「通りを歩いていたら、いきなり拘束されるといった事態が起こりえます。その理由は、コンピューターがあなたは同性愛者だと言ったからなのです」

監視能力を高める中国

顔認証とAI監視技術に最も力を入れている国は中国だ。激しい競争に加えて、他国と比べて個人データへのアクセス規制がゆるいため、AI産業は急成長している。このため中国政府による情報管理や言論統制は、どんどん強化されている。

一部の都市では、顔認識システムを利用して監視カメラの映像から犯罪者を見つけるといったことが実際に行われているほか、軽微な犯罪を犯すと懲罰措置として個人情報が一般に公開される。

さらに問題なのは、新疆ウイグル自治区でのイスラム教徒の弾圧にこの技術が使われている点だ。同時に、共産党政府が進める「一帯一路」政策の下、パキスタン、カンボジア、ラオスといった国にAI監視システムが輸出されている。これは、ひいてはテクノロジーによる弾圧につながるだろう。

政治学者でコンサルティング会社ユーラシアグループの創設者でもあるイアン・ブレマーは、中国政府がもつ監視能力は誇張して報じられているかもしれないが、同国のAIブームは個人の自由に恐ろしい影響を与えていると指摘する。「政府はまず技術を確立し、それを使うことが可能であると世間に知らしめます。そして見せしめに何人かを逮捕してみせればいいのです。そうすれば、あっという間に国民全員が恐怖を感じるようになるでしょう」

欧米でも活用が進む

自分には縁のない遠い国の話だと思うかもしれない。だが、欧米でも同様のツールが開発され、利用されている。グレン・ロドリゲスに聞いてみればいい。受刑者だったロドリゲスは、仮釈放を申請した際、アルゴリズムによる審査に直面するはめになったのだ。

「COMPAS」と呼ばれるこのシステムは、犯罪者の再犯率を予測するために開発されたものである。ロドリゲスは10年間も模範囚だったが、バイアスのかかったCOMPASは、再犯の可能性があるため仮釈放すべきではないとの結論を出した。

人間で構成される仮釈放委員会は、コンピュータープログラムの判断には反対で、ロドリゲスの申請は最終的には受け入れられた。しかし、COMPASが推奨した夜間外出禁止という条件が付けられている。ロドリゲスは「いまでもCOMPASの悪夢を見ますよ」と語る。

米国の警察当局もAIを採用している。ニューヨーク市警察（NYPD）は現在、顔認識を含むシステムを試験運用している。AI導入の目的は業務の効率化と説明責任を果たすためということになっているが、人々が当局によるAIの利用を受け入れれば、欧米諸国もテクノロジーによる専制に向かって歩き出すことになるのだ。