IMAGE BY ALYSSA FOOTE

フェイスブックの広告プラットフォームは、市民団体や政治家、ジャーナリストなどさまざまな方面から差別的だと批判を受けている。攻撃の対象となっているのは、特定の層を狙って広告を打つターゲティング広告と呼ばれる手法で、プラットフォームを支えるシステムそのものではない。フェイスブック側の対策も、この手法を巡るものに限られている。

しかし、ノースイースタン大学、南カリフォルニア大学、社会的公平を訴えるNPOのUpturnの共同研究によって、どうやら別の問題が存在することが明らかになった。広告の配信アルゴリズムだ。

研究結果によると、企業が自社広告を特定の層のみに見せると決めた場合でも、それが実際に配信されるのは「そこからさらに選別されたサブグループ」であることが多いという。このサブグループは広告主が意図していた対象から外れているかもしれないし、そもそも企業はこのことに気づいていない。例えば、性別を問わない人員募集の広告でも、結果的には男性ユーザーに多く配信されるといったことが起きているのだ。

研究論文はまだ専門家の査読を経ていないが、もし事実だとすれば、年間数百億ドルに上る収入をフェイスブックにもたらしている自動広告システムは、雇用や住宅といった分野での差別を禁じた連邦法に違反している可能性がある。

つまり、ターゲティング広告といった機能的なことではなく、システムの根幹に関わる問題だ。フェイスブックからコメントは得られなかったが、この研究結果を取り上げた別のメディアの記事には、同社の広報担当者の言葉が添えられている。広報担当者はここで、研究結果について否定はしていない。

すでに“差別”を巡る問題は訴訟ざたに

フェイスブックのターゲティング広告における差別は、かなり前から問題になっていた。2016年には、非営利の調査報道団体プロパブリカが、人種などの属性によって特定の層を広告の対象から外すことが可能だと報じた。これは、住宅の購入や賃貸取引での差別を禁じた1968年の公正住宅法に違反している。

つい先月は、フェイスブックと市民団体などとの訴訟5件で和解が成立したが、ここでは求人、住宅販売、ローンなどの広告で女性や高齢者を差別していたかが争点になっていた。同社は和解を受け、今後はこれらの分野では年齢、性別、郵便番号などで広告対象を絞るサーヴィスの提供を停止することを明らかにした。ただ、今回の共同研究の結果によれば、こうした措置では差別問題は解決しない。

米国自由人権協会（ACLU）で女性の権利を巡るプロジェクトに関わる弁護士のゲレン・シャーウィンは、「機械学習が社会の既存の偏見を増幅していくという事実が証明されたわけで、非常に深い意味をもっています」と話す。

シャーウィンの団体もフェイスブック相手の訴訟の原告に名を連ねるが、彼女は「今回の研究結果により、プラットフォーマーと呼ばれる大企業は、こうした状況に歯止めをかけるために積極的かつ有効な対策をとる責任を負っていることが示されました」と強調する。

募集広告が「清掃員」なら黒人女性？

研究チームは、アルゴリズムによる配信対象者の選択における差別の実態を調べるために、フェイスブックで実際に広告を出す実験を行なった。例えば、ノースカロライナ州で看護師、レストランのレジ係、タクシーの運転手など11種類の職業について、同じターゲット設定で求人広告を打ったのだ。

すると、用務員や清掃員の募集では配信対象の65パーセントが女性ユーザーで、かつ75パーセントは黒人だった。これに対し、職種が木材業になると、配信先の90パーセントは男性で、70パーセントは白人になる。

さらに極端な例もある。スーパーマーケットの店員募集広告では配信先の85パーセントは女性だったが、タクシーの運転手では75パーセントが男性だ。

研究者たちは、求人広告だけでなく住宅広告でも同じような実験を行なった。まったく同じターゲット設定と予算でも、物件の内容次第で配信先の85パーセント超が白人になることもあれば、65パーセントが黒人の場合もあったという。

フェイスブックは出稿主の企業に対し、広告が配信されたユーザーの大まかな居住地域は教えているが、人種は公開していない。このため、研究チームは広告が配信されたユーザーの居住地域から人種構成を知るために、ノースカロライナ州の投票記録を参考にした。投票記録には有権者の住所と電話番号、人種属性が記載されており、これを活用すれば、広告が配信されたユーザーの居住地から人種が推測できる。

求人広告にはジェンダーに基づいたステレオタイプな写真が使われている。右端の画像は人間が見るとただの白い四角にしか見えないが、アルゴリズムには意味をもっている。IMAGE COURTESY OF UNIVERSITY OF SOUTHERN CALIFORNIA; NORTHEASTERN UNIVERSITY; UPTURN

見えてきた性別によるバイアス

研究論文では、広告に画像が付いていた場合に配信対象を決めるアルゴリズムがそれを参考にしているのかを調べた別の実験も紹介されている。研究チームはサッカーの試合や香水のボトルといったジェンダーと関連づけされやすい画像をわざと選び、文面は同じだが画像だけを変えた広告を2本用意した。

また、人間の関与を調べるために、画像データは残して見た目だけを白くしたものも試されている。つまり、人間が見るとただの白い写真にしか見えないが、人工知能（AI）にとっては意味をもつ画像だ。

その結果、アルゴリズムは男女それぞれの性別向けの写真を見分け、それに従って配信対象を選んだ。データだけを残した白い画像でも同じだった。例えば、男性向けの写真だと配信対象の60パーセントが男性ユーザーで、女性向け写真では65パーセントが女性になった広告もあったという。

つまり、フェイスブックはそれぞれの広告を事前に自動分析して、誰に向けて配信すべきかを決めている。そして、その決定には性別によるバイアスがかかっているのだ。

不透明なアルゴリズム

フェイスブックは広告プラットフォームにおけるアルゴリズムを公開しておらず、画像認識と処理がどのように機能しているかを知る方法はない。過去には、1日当たり10億枚を超える画像を分析することが可能だと述べたこともあるが、とにかく詳細は闇のなかだ。ノースイースタン大学のコンピューターサイエンス教授で今回の研究にも携わったアラン・ミスラブは、「究極的には、わたしたちはフェイスブックが何をやっているかを知らないのです」と言う。

さらに、広告キャンペーンの予算が差別を引き起こす可能性もわかった。女性は男性と比べて広告をたくさん見る傾向があるため、広告効果を出すのが男性より難しいとされる。研究チームが広告費を1ドルから50ドルの間で増やしていったところ、「1日当たりの予算が多ければそれだけ、配信対象に占める男性の割合が低くなっていった」という。

なお、この点に関しては、過去にもロンドン・ビジネス・スクールとマサチューセッツ工科大学（MIT）の研究者による共同研究がある。科学・技術・工学・数学（STEM）分野での求人広告を対象にしたものだが、この分野ではそもそも女性が少ない。このため、アルゴリズムは効率を重視するあまり、男性を中心に広告を配信していたことが明らかになっている。

責任は出稿主にあり？

一方で、ノースイースタン大学らの研究者たちは、今回の結果だけでフェイスブックの広告すべてに問題があると決めつけることではできないと断っている。論文には「今回の実験では、木材業の求人広告は白人男性のユーザーに配信される傾向が強いことが明らかになった。しかし、これが木材業の求人広告すべてに当てはまるかはわからない」と書かれている。

ただ、少なくともある程度の差別が存在することは証明されたわけだ。だとすれば、住宅都市開発省（HUD）が先月、フェイスブックを相手取って起こした訴訟にも影響があるかもしれない。

訴状によると、フェイスブックの「広告配信システムは企業が幅広いユーザーに広告を打つことを妨げている」。これは、同社が各ユーザーが特定の広告に興味をもつか、もしくは特定の広告に「ふさわしい」かを推測し、それによって配信の有無をコントロールしているからだという。

フェイスブックはこれに対し、連邦通信品位法（CDA）第230条を引き合いに出す。230条には、「インタラクティヴ・コンピューター・サーヴィス・プロバイダー」はプラットフォームへの投稿に関しては違法行為があっても免責されるとの規定があり、フェイスブックは自分たちはこの対象になると主張している。つまり、自社広告が「どこで、どのようにして、いつ配信されるか」について責任を負うのは、出稿主である企業自身だというのだ。

最適化か公平性か

しかし、今回の研究結果が正しければ、この主張は受け入れられないだろう。企業は望み通りに広告の配信対象を正確に決めることができると考えられていたが、実はその先にフェイスブックによるさらなる“絞り込み”が行われていたことになるからだ。

フェイスブックが今後、こうした問題に対処するために広告システムをどのように変えていくのかは不透明だ。Upturnのシニア政策アナリストで今回の共同研究にも参加したミランダ・ボーゲンは、公平さを確保するためには、広告機能の一部を犠牲にする必要があるかもしれないと指摘する。

フェイスブックの前最高セキュリティ責任者（CSO）であるアレックス・スタモスも、過去に同じようなことを言っていた。この種の問題は、「一部の広告ではアルゴリズムによる最適化を完全にやめなければ」解決できないだろうというのだ。

だが、フェイスブックの広告事業を他社のサーヴィスから差異化しているのは、まさにその最適化という機能性なのである。一連の訴訟で同社のアルゴリズムが差別的であると認められれば、広告事業そのものに悪影響が出る可能性は高いだろう。