昨年のある日、フェイスブックのプログラムマネージャーであるレイド・オバメヒンティは、自社のアルゴリズムが黒人に対して差別的であることを発見した。

オバメヒンティはそのとき、開発中のヴィデオチャット端末「Portal」のプロトタイプをテストしていた。このデヴァイスは話している人を自動で探し、そこにカメラがズームインするようになっている。

しかし、オバメヒンティが朝食のフレンチトーストについて話していたとき、デヴァイスは彼女を無視して、代わりに同僚の白人男性を画面の中心にもってきた。オバメヒンティは黒人だった。

彼女は年次開発者向けイヴェント「F8」の2日目に、この体験について語った。初日となる前日には、最高経営責任者（CEO）のマーク・ザッカーバーグが基調講演でプライヴェート重視路線を強化すると力説したばかりだった。

ただ、最高技術責任者（CTO）であるマイク・シュレーファーの話は、CEOのそれより現実的だった。イヴェントの2日目に壇上に立ったシュレーファーとオバメヒンティなど技術チームの面々は、プラットフォームを守るためにテクノロジーを利用することの難しさをよく理解していた。

特に人工知能（AI）の場合、「認知バイアス」が大きな課題となっている。シュレーファーは「簡単な答えはありません」と語った。

AIカメラが黒人女性エンジニアを“無視”した理由

ザッカーバーグもシュレーファーも、Facebookのような巨大プラットフォームではAIが必要不可欠であるとの認識では一致している。人間関係のデジタル化の結果として予期せぬ事態が起こらないようにするには、テクノロジーに頼るしかない。

ただ、これまでの常識を覆すようなテクノロジーの常として、AIそのものが予期せぬ事態を引き起こしているのだ。機械学習応用部門を率いるホアキン・カンデラは「何が起きるか予測することは不可能です」と言う。

オバメヒンティの体験によって、フェイスブックがAIの認知バイアスを避けるためのツールを見つけ、その開発過程も見直さなければならないことが改めて確認された。AIに無視されたことで「多様性に対応できるAI」をつくり出していくことの重要性を強く感じたと、彼女は話している。

そのためには、Portalのプロトタイプの動作だけでなく、コンピューターヴィジョンを支えるシステムを訓練するために使われているデータセットに内在する、人種や性別の偏りを調べるところから始めなければならなかった。オバメヒンティは、データセットには女性や浅黒い肌の人の画像が少なかったことを発見した。結果として、プロトタイプもこうしたグループをうまく見分けられなかったのだ。

潜在的な認知バイアスという問題

AIシステムの普及に伴い、潜在的な認知バイアスについて警鐘を鳴らす研究者が増えている。2015年には、グーグルの画像認識システムが黒人を「ゴリラ」とタグ付けしていたことが明らかになる事件があった。ただ、グーグルがとった対応策は、タグ用の単語の一覧からゴリラやチンパジーといった大型霊長類を外すことだけだった。

オバメヒンティの対策はこれよりは建設的で、最終的にはシステムの改良に成功したという。F8でのプレゼンテーションによると、訓練をやり直した新しいシステムでは、男性でも女性でも3種類の異なる肌の色について90パーセント以上の確率で認識できた。90パーセントはフェイスブックが設けている目標ラインだ。ただ、それでもまだ黒人女性の認識率は、ほかと比べて低くなっている。

フェイスブックは拡張現実（AR）カメラのフィルターについても、人種や性別にかかわらず誰でも認識されるように同様の方法で変更を加えている。機械学習のアルゴリズムはより強力になっているが、訓練の際には慎重さが必要だ。オバメヒンティは「AIを現場にもってくると、そこに内在する除外というリスクが明らかになります」と話す。

フェイクニュース判定にも認知バイアス

一方、フェイスブックはプラットフォームから偽情報を駆逐するためにAIシステムを導入しているが、カンデラはこれについて、不公正にならないよう注意しなければならないと強調した。例えば、インドでは現在、各地で総選挙の投票が行われているが、フェイスブックはここで誤った情報が拡散されないようコンテンツフィルターを使っている。

このコンテンツフィルターは数あるインドの主要言語のうちのいくつかに対応し、人間のレヴューが必要と思われる投稿を拾い出していく。カンデラはどの言語でもフィルタリングが正確であるかどうかを細かく確認していると話した。

また、フェイクニュース対策にユーザーの力を借りるというやり方にも課題が見えてきている。フェイスブックは昨年、特定の投稿がフェイクニュースかを見極めるために、ユーザーからのフィードバックを取り入れる方針を明らかにした。カンデラはこれについて、AIの認知バイアスに取り組むチームは同時に、こうしたヴォランティアのユーザーのコミュニティーに人種や地域的な偏りがないようにしなければならないと指摘する。

テクノロジーの進化だけでは解決できない

一方で、テクノロジーの進化によってこうした問題は解決されていくとの見方もある。CTOのシュレーファーは、画像やテキスト認識において、少ないデータセットで訓練されたAIがより正確な結果を出せるようになっているという研究結果を紹介した。ただ、Facebookでの利用規約違反のコンテンツの発見率については最新のデータは示さず、昨年11月に発表した数字を繰り返すにとどめている。

カンデラは、テクノロジーの進歩とシステムのバイアスを検知するツールの開発だけでは、フェイスブックの問題を解決することはできないと認める。経営陣とエンジニアが一丸となってやるべきことをやっていかなければならないのだ。

「ツールは絶対に必要ですが、それだけでは十分ではありません。公平さというのは、ツールを活用した結果として得られるものなのです」