テック大手のスキャンダルが続いた1年だった。普段なら政府に対して反抗的な態度を取るシリコンヴァレーの大者たちですら、ある程度は従順な素振りを見せるようになっている。しかし、マイクロソフト社長で最高法務責任者（CLO）も務めるブラッド・スミスは違うようだ。

スミスは公式ブログへの投稿で、政府に顔認識技術の利用を規制するよう呼びかけている。個人情報保護が脅かされる危険性に加え、監視やさまざまな不公正を助長する恐れがあり、きちんとしたルールづくりが必要だというのだ。

テック企業は社会的責任か利益の追求かという選択を迫られることが多い。しかし、顔認識技術がこのまま進化していけば、その結果はひとつの産業が責任を負えるものではないとスミスは警告する。彼はシンクタンクのブルッキングス研究所が主催して行われた講演で、次のように語っている。

「間違った方向に向かうことを防ぐための唯一の方法は、健全な市場競争を支える責任という地盤を築くことだと考えています。2024年という未来が、小説『1984年』の1ページのようになることは防がなければなりません」

「わたしたちの顔も保護されるべき」

スミスは、企業には自社テクノロジーができることとできないことの説明を書面で提出するように義務づけるべきだと主張する。また、顔認識システムを「重要な」状況で使う場合、「最終的な決断を下す前の段階で、人間による意味のある審査」を行うことも必須とするよう求めた。重要な状況とは、例えばアルゴリズムが下した決断によって肉体や感情を傷つけたり、もしくは基本的人権やプライヴァシーが侵害される恐れがあるといった場合が、これに相当するという。

プライヴァシー保護を巡っては、個人を特定するためにこの技術を利用する場合、「そうしたことが行われていると明示する目立つ表示」を義務化するよう提案している。また、捜査令状を要する対象に顔認識技術も含めるべきだとも述べた。

スミスはこの点について、米最高裁の判決を引き合いに出す。最高裁は7月、位置情報を含む携帯のデータを調べるには令状をとる必要があるとの判断を下したが、彼は「わたしたちの顔も保護されるべきではないでしょうか」と問いかけた。「わたしたちから見れば、答えは絶対にイエスです」

さらに、顔認識技術を活用する上では政府も企業も透明性を確保し、第三者からの監督を受けることも提言している。「コンシューマー・リポートのような消費者組織による公平な調査を義務づけるルールの導入が必要です。一方で、技術の精度や間違ったバイアスがかかっていないかということについて、的確かつ正当な方法でテストを行うべきでしょう」

スミスは7月にも顔認識技術を巡る法整備の重要性を呼びかけたが、今回は具体的な内容にまで踏み込んでいる。公正さ、透明性、説明責任、差別的にならないこと、通知と同意の徹底、法に基づいた監視という6つの原則を提示し、技術の活用とその規制において、これらの原則を指針とするよう求めたのだ。また、マイクロソフトは近く、6原則の法制化に向けた提案を行う予定だ。

急速な実用化と、その危険性

顔認識技術は犯罪捜査や金融といった分野で急速に実用化が進んでおり、開発者や専門家が懸念を表明している。フロリダ州オーランドの警察当局はアマゾンの「Amazon Rekognition」を採用するが、NGOのアメリカ自由人権協会（ACLU）が米議会の議場の写真を使ってこのシステムを試したところ、議員28人を正確に認識できなかったという。

一方、ニューヨーク大学の研究機関であるAI Nowは9月に発表した報告書で、企業に対して顔認識技術のアルゴリズムを公開するよう促している。報告書には、「人工知能（AI）を開発する企業は、公共セクターでアルゴリズムを巡る説明責任を阻害するような企業秘密および法的権利を放棄すべきだ」と書かれている。

「政府や公的機関は、アルゴリズムがどのように、またなぜ特定の決断を下したのかを理解しなければならない。特に、医療、住宅、社会保障、雇用といった分野が危険にさらされている場合は、この点が重要になる」

AI Nowの創設者のケイト・クロフォードとメレディス・ウィッタカーが企業秘密の問題を考えるようになったのは、あるシンポジウムがきっかけだった。ウィッタカーはそこで、著名な弁護士なども関わってアルゴリズムを相手にした訴訟が行われていることを知ったという。「10人以上の弁護士から基本的な情報を得ることがどれだけ大変かという話を聞かされ、本当に驚きました」

求められる「分別ある」企業のリーダーシップ

報告書は顔認識技術を利用した影響分析についても触れている。ミネソタ州のセントトーマス大学ではマイクロソフトのツールに基づいたシステムで講義中の学生の「感情」を分析し、その結果を教師に知らせている。

AI Nowはこれについて、システムは複雑な人間の感情を正確に割り出すことが可能なのか、学生は分析結果に異議を唱えることができるのかといった問題点を指摘する。また、こうしたシステムが講義内容に及ぼす影響やプライヴァシー保護といった観点からも懸念が残る。セントトーマス大学では「こういったシステムを採用していることを学生に伝えるかは未定」だという。

マイクロソフトはこの件についてコメントを控えている。

ニューヨーク大学ビジネススクール教授のマイケル・ポスナーは、フェイクニュースやロシアの選挙への介入といった問題をめぐりテック企業と協力しており、マイクロソフトが顔認識技術に関して打ち出したフレームワークにも詳しい。同大学のビジネス・人権センターの所長も務めるポスナーは、経験的に言って、企業は政府や消費者に働きかけることに消極的だと説明する。

「規制などで政府に干渉されることは、いかなる意味でも嫌がります。情報開示はできる限り避け、消費者に何が起きているかを知らせようとなどという努力はしません」

それでも、マイクロソフトのように「分別のある」企業がリーダーシップをとることで、透明性の向上に向けたアプローチが促進されるよう期待していると、ポスナーは話す。なお、顔認識技術をめぐる指針についてアマゾンに質問を送付したが、回答は得られていない。