AIも人間を差別する！ RightsConで採択された 「トロント宣言」で AIが人間に対して持つ「偏見」から 人権を守れるのか？

超AI時代を読み解くエンターテイメント小説! AIと仮想通貨時代をどう生きるか。 2020東京オリンピック後のAI特区で起きた 友情・裏切り、美人AIとの三角関係。 ビットコイン、ブロックチェーン、ディープラーニング…… 時は、東京オリンピックの喧騒が去った2020年。 岩科正真(いわしな・しょうま、25歳)は、実家の定食屋の再建を、美人AI「マルチナ」に託す決心をする。 正真は、再会した沙羅に惹かれるが、彼女には重大な秘密があった。 同時に、正真はマルチナも愛してしまう。ヒトとAIの奇妙な三角関係。 やがて、正真たちは巨悪な陰謀に巻き込まれていく。 彼らは、緻密に計算された策略を暴くことができるのか? そして彼らがたどり着く先は? マルチナは神のギフトか? 破滅者か?

IT書籍から小説まで幅広く手がける作家・ライター。エクセルのマクロ言語の解説書の売上部数は150万部を超えている。1997年に、その後国内最大規模となるマイクロソフト・オフィス製品のポータルサイト「moug」を一人で立ち上げる。2003年にはIT系資格試験の「VBAエキスパート」を中心メンバーとして創設。2007年に処女小説『エブリ リトル シング』が17万部のベストセラーとなり、中華圏や韓国での翻訳出版や2回の舞台化（2008年井上和香、2009年内山理名主演）。 『エブリ リトル シング』は、第1話の「クワガタと少年」が多くの私立中学の入学試験に出題され、全国の予備校で話題となり、YouTubeで再生回数が18.5万回の人気動画に。 第2弾小説の『無限ループ』も5万部に。2006年に、TOKYO MX（東京メトロポリタンテレビジョン）やテレビ神奈川など全国13の独立放送局で、AIとIoTをテーマとした90分の特別番組「IT その扉の向こうに」の司会に抜擢されたことでAIやIoTに傾倒する。著書に、ベストセラーとなった『かんたんプログラミングExcel VBA』シリーズ（全16冊）、『Excel VBA本格入門――日常業務の自動化からアプリケーション開発まで』『人生は数式で考えるとうまくいく』『仕事がうまくいく0.7の法則』など多数。静岡県富士市在住。

構想・執筆に2年。『エフエムふくやま』でも、「ページをめくる手が止まらなかった」と紹介され、映像化したいというオファーが舞い込んできた話題のAI・仮想通貨のエンターテイメント小説『マルチナ、永遠のAI。』。

作者は、IT書籍の総売上が150万部を超え、小説でも『エブリ リトル シング』が17万部のベストセラーとなった大村あつし氏。今回は、AIの人権問題についてお届けしよう。

（構成・寺田庸二）

機械学習システムのアルゴリズムに

平等、差別禁止、偏見をなくす、という

基本原則を組み入れる

ちょっと驚きの話ですが、機械学習をしたAIは差別もすれば偏見も持ちます。

と、こんなことを言うと、AIに心があるかのように聞こえますが、決してそうではありません。

結論から述べると、機械学習の元となるビッグデータには、「人間の思考や性質」が内在しており、その結果、AIは差別や偏見まで学んでしまうのです。

すなわち、AIのこうした不適切な判断は、元をたどれば私たち人間に責任があるとも言えます。

アメリカのプリンストン大学では、GloVeというアルゴリズムを使って、AIに8400億の単語を学ばせました。

すると、そのAIは人間が表層的・潜在的に持つ偏見を再現することが立証されました。すなわち、AIは自分自身に偏見まで組み込んでしまったのです。

その中でも特に多い偏見は、人種と性別に関連するものです。

たとえば、「ヨーロッパ系アメリカ人は、アフリカ系アメリカ人よりも心地よい」とか、「女性の名前から連想されるのは家族だが、男性の名前からは仕事が連想される」という具合です。

ただし、元データは人間の思考だからと言って、それを学んだAIが差別をしてもいいことにはもちろんなりません。

そして、こうした問題の議論の土台にすべく、AIから人権を守ろうという「トロント宣言」が、人権団体が毎年行なっているRightsCon（ライツコン）の中で発表されました。