アマゾンのクラウド部門であるアマゾン ウェブ サービス（AWS）の顔認識ソフトウェア「Amazon Rekognition」が、認識対象の表情から「恐れ」を検知できるようになった。「感情検出の精度が向上し、新たに“恐れ”の感情が追加された」という。

さらに今回のアップデートでは、性別や年齢の推定機能の精度も向上している。顔認識技術については、これまでもプライヴァシーや人権擁護の活動家から批判の声が上がっていたが、これを機にさらなる懸念が広がりそうだ。

「監視システム」としての顔認識

「これって冗談だろう？」

Duckbill Groupのクラウド・エコノミストであるコリー・クインは、このようにツイートしている。彼はニュースレター「Last Week in AWS」を執筆している。同社はAWSのコンサルティング会社で、クインはニュースレター「Last Week in AWS」を執筆している。そしてクインはこう続けた。

「AWSは児童の移民を収容する施設を次々に建設している連邦政府にRekognitionを提供して批判を受けている。こうしたなかで年齢推定の精度を向上させ、恐怖の検出機能まで追加するとは」

当然のことながら、顔認識技術は非常に大きな議論の的になっている。こと政府による監視システムという文脈においては、なおさらだ。

中国政府はムスリムの人々を追跡・統制しようと、スマート監視カメラを利用したことで批判を受けている。AWSが2016年に開発したRekognitionはアマゾン内外から批判を受けており、米移民・関税執行局（ICE）に販売されていることが判明して以降は、特に風当たりが強くなっている。

ニュースサイト「Daily Beast」と非営利団体のProject on Government Oversightによってこの件が初めて報じられたのは、18年10月のことだった。これをきっかけに怒りと不安の声が噴出しており、顔認識技術が「執行局にとって行き過ぎた力」となり、悪用されるケースや誤認逮捕につながるケースが出てくるのではないかという意見が出始めたのである。

ベゾスが選んだ「経営者としての正しい道」

19年の初めには、問題を憂慮した専門家らにより、濫用・悪用を防ぐための「予防措置」が確立されるまで法執行機関に対するRekognitionの販売を中止するよう求める公開文書が、アマゾンに対して送付された。この夏にはAWSの従業員の間で、アマゾンはICEと手を切るべきだと主張するメールが出回った。

さらに、7月に開催された「AWS Summit New York」では、テクノロジー業界で働く女性約30名のグループが乱入する騒ぎがあった。女性たちはみな移民で、トランプ政権下のICEによって子どもたちが親から引き離される現場の録音データを再生し、アマゾンの最高技術責任者（CTO）であるワーナー・フォーゲルの基調講演を妨害した。

「いまのままでは、みなさんも共犯なんです」と、このイヴェントでの活動に参加した「Make the Road New York」のプロジェクトをまとめるジェイミー・サン・アンドレスは語っている。「ともにICEに立ち向かいましょう」

アマゾンが顔認識ソフトウェアの機能を向上させることで、こうした懸念は大きくなる一方だろう。ジェフ・ベゾスがまだまだ連邦政府とのつながりを強化していく腹積もりでいることを考えると、なおさらである。

「わたしたちはこれからも（国防総省を）支え続けますし、そうすべきだと考えています」と、ベゾスは18年10月に語っていた。「たとえ周囲の支持を得られない決断だとしても、正しい道を選ぶことが経営者の仕事ですから」