人工知能学会らは12月10日、「機械学習の不適切な利用は公平性を欠く可能性がある」などと注意を呼び掛ける声明文を発表した。米Amazon.comが人材採用で使った機械学習システムが、女性差別を助長するとして運用中止に至ったことなどを問題視し、「機械学習が公平性に与える影響を重く捉え、この問題にどう対処すべきか社会全体で共有したい」としている。

日本ソフトウェア科学会、電子情報通信学会との共同声明。Amazonの例をはじめ、機械学習の不適切な利用が公平性に欠ける結果をもたらす例が増えていることから、声明を出すに至った。

人工知能学会らは、「機械学習は道具にすぎず、人間の意志決定を補助するものだ」と強調。「機械学習は人類社会の繁栄に大きく貢献する可能性を秘めているが、不適切な利用をすれば人類社会の利益に反する可能性もある」と注意を喚起している。

こうした問題を防ぐには、道具を使う人間が注意深く介入する必要があるという。また、「何が公平か」について技術者だけでなく社会全体で向き合うべきだと指摘している。

人工知能学会は、人工知能と倫理の問題について考える「倫理指針」を策定し、一般向けに公開している。機械学習の不適切な利用を防ぐため、今後も研究会などで「公平性とは何か」を突き詰めていくという。

3団体は「公平性の問題は、技術と社会の両面から議論する必要がある。従前のコミュニティーの枠にとらわれず、より多くの人と議論を深めていく」としている。