2018年01月15日 11時30分00秒

by Carlos Cram

写真や画像を無料で保存できるGoogle Photosには機械学習が使われており、類似のコンテンツ認識し、自動でラベル付きで分類してくれます。2015年にこのGoogle Photosが黒人を「ゴリラ」とラベリングしたことが大きなニュースとなりましたが、2年たってどれだけ画像認識技術が進歩したかがチェックされたところ、「Google Photosはゴリラを見えないものとしている」ということがわかりました。

When It Comes to Gorillas, Google Photos Remains Blind | WIRED

https://www.wired.com/story/when-it-comes-to-gorillas-google-photos-remains-blind/

Google’s solution to accidental algorithmic racism: ban gorillas | Technology | The Guardian

https://www.theguardian.com/technology/2018/jan/12/google-racism-ban-gorilla-black-people

Googleのフォトアプリ「Google Photos」がJacky Alcinéさんとその友人に「ゴリラ」というラベル付けをしたという事件が起こったのは2015年7月のこと。Googleのソーシャル部門のチーフ・アーキテクトであるYonatan Zungerさんはこの件についてAlcinéさんに謝罪し、許可を得てAlcinéさんのアカウントにアクセスすることで、すぐにバグは修正されました。

Google Photosが黒人をゴリラと認識した事件で開発者が謝罪 - GIGAZINE



画像認識アルゴリズムはまだ発展途中であり、Zungerさんによると「マシン自体にはバイアスはないが、彼らは私たちが注意しないと、簡単に人種差別を学んでしまう」とコメントしました。

事件から2年経過し、画像認識技術も進歩したということで、ニュースメディアのWiredはGoogleの画像認識性能がどれほどアップしたのかをGoogle Photosを使って調査。さまざまな動物の写真4万枚をGoogle Photosをに保存し、パンダやプードルといった動物の種類で検索したところ、「ゴリラ」「チンプ」「チンパンジー」「サル」といった単語には「No results」という検索結果が示されたとのこと。一方、ヒヒ、テナガザル、マーモセット、オランウータンについては検索ができたそうです。



また、チンパンジーのNPO「Chimphaven」やゴリラの保護団体「Dian Fossey」をソースとする20枚の写真をアップロードしたところ、「森」「ジャングル」「動物園」といった単語でいくつかの写真は検索できましたが、その他の単語では検索が難しかったといいます。つまり、Google Photos内でヒヒはヒヒとして認識されるものの、チンパンジーやゴリラは「見えないものとされている」とWiredは示しました。

さらに別の実験で、顔認識技術の研究に使われた1万人以上の顔の画像をGoogle Photosにアップロードし、「African american」「black man」「black woman」「black person」といった言葉で検索したところ、African americanではアンテロープが、ほか3つの言葉では白黒の画像が示される結果となりました。この時、男性・女性といった性別についてGoogle Photosは認識していたものの、人種については検索結果に反映されませんでした。

by Nams82

Googleの広報によると、2015年の事件以降、「ゴリラ」という単語は検索や画像タグにおいて検閲対象になっているのだとのこと。また同様に、チンパンジーやサルについてもブロックされているそうです。「画像のラベリング技術はまだ初期の段階にあり、残念なことに完璧とはほど遠いものです」とGoogle広報は説明しています。