[PR]

この顧客は金を落とすのか。この学生は内定を辞退するのか。個人の膨大なデータから人工知能（ＡＩ）が将来の行動を予測するシステムを、企業があらゆる場面で使い始めている。数学者のキャシー・オニールさんは、ＡＩによる偏見や格差の拡大に警鐘を鳴らしてきた。どうすれば私たちは、「ＡＩのわな」から抜け出せるのか。

Cathy O'Neil １９７２年生まれ。数学博士。著書に「あなたを支配し、社会を破壊する、ＡＩ・ビッグデータの罠（わな）」。

――日本では就職情報サイトのリクナビが、就活生の同意を得ずに内定辞退率を予測し、企業に売ったことが問題となりました。

「内定辞退者が続出して誰も入社しなかったら困ると企業が考えるのは合理的です。逆質問ですが学生はなぜ怒っているのですか」

――「企業は選考にデータを利用しない」ということになっていましたが、本当にそうだったのか、誰もわからないからです。

「サイトの閲覧履歴は守られるべき個人情報であり、確かにサイトを閲覧しただけで、内定を得ても辞退すると決めつけられるのはフェアではありません。でも、米国では閲覧履歴データの利用は当たり前のように行われています。日本人はプライバシーについて、米国より欧州に近い考え方をしているのですね」

――どういうことですか。

「米国ではもっとひどいことが起きています。ある大学は、受験生が奨学金のサイトを閲覧した時間を、合否を出す際の参考にしていました。大学にとっては、学費を全額払える入学者が多い方がよく、貧しい子はいらないということです。学長が気にするのは、カネと大学ランキング。合格者数に対し実際にどのくらいの受験生が入学したのかという割合も、大学ランキングに影響するのです。学長は企業におけるＣＥＯ（最高経営責任者）と同じ論理で動き、教育という視点が失われています」

――ＩＴ企業が、サービス利用歴を元に個人に点数をつける「信用スコア」も、じわじわと広がっています。ヤフーは当初、拒否しなければ自動的に同意したとみなす「オプトアウト」の仕組みで、同社のサービス利用者のデータを点数化していました。ですが「説明不足」の批判を受け、自ら同意した利用者のみ点数付けするよう変更しました。

「米国の企業だったら、変えなかったと思いますね。メディアの批判など、みんなで無視すればこわくない。そんな態度です。さすがにフェイスブックは、規制のための法律が改正されるという政治的なリスクがあるので、対応せざるを得ないと感じているようですが」

「企業にとって個人データはとても価値があり、活用すべしというプレッシャーが存在します。ウェブサイト上でデータの利用に同意を求められているということは、企業から『ビジネスの提案』を受けていると理解すべきです」

「クレジットカードの『信用スコア』は、たとえばデートの相手を選ぶ時にまで広く使われるなど、それ自体が大きな意味を持っています。スコアは、点数が低いと恥ずかしいという感覚を、個人の内部にも植え付けるものです」

――数学やコンピューターの素人には、ＡＩがどう動いているかとても理解できないのですが。

「考え方はシンプルです。成功に導くパターンをデータ分析によって探すのがＡＩです。ここで大事になるのは、その『成功』を誰が定義するかです」

「夕食に何をつくるかを例に考えてみましょう」

「私にとっての成功は、息子が…