12919365 story



このような結果になった理由としてBeauty.AIでCSOを務めるAlex Zhavoronkov氏は、白人以外の美の基準を構築するのに十分なデータがデータセットに含まれていなかった点を挙げている。また、撮影時の明かりが十分でなかった場合に濃い肌色の応募者の写真をアルゴリズムが破棄してしまうこともあったという。



元となるデータセットにバイアスがかかっていれば、アルゴリズムにもバイアスがかかり、それがさらに増幅される可能性もある。データセットが少なければ特定のバイアスが含まれるように汚染することも容易だ。人種的なバイアスを最小化するためには、様々な人種の顔や画像に注釈を入れた大規模で集中的なリポジトリを誰もが使用できるようにする必要があるとZhavoronkov氏は述べているとのことだ。