Googleは、電子メールサービス「Gmail」にユーザーの性別を予測させたくはないと考えている。

Gmailの「Smart Compose」機能は今後、性別に基づく代名詞を提案しなくなる。誰かの気分を害する危険性が高すぎるからだと、Googleの製品責任者らはReutersに述べた。

GoogleのPaul Lambert氏によると、ある企業調査科学者が「I am meeting an investor next week」（ある投資家と来週会う）と入力したときに、Smart Composeが「Do you want to meet him?」（あなたも彼に会いたいですか？）と提案したことが、今回の変更のきっかけになったという。男性代名詞をデフォルトで提案するのは、同社がAIツールで避けたいと考える性差別だった。

5月に提供開始されたSmart Composeは、ユーザーがこれから入力する内容を予測して代わりに入力してくれる機能だ。宛先、件名、ユーザーの一般的な入力習慣に基づいて動作する。設定メニューで有効にすることにより、この機能を利用することができる。

Googleは以前も、予測ツールで問題に遭遇している。2016年には、Google検索で「Are Jews...」（ユダヤ人は）や「Are women...」（女性は）といったフレーズの末尾に「evil」（悪）という語を候補として表示していたオートコンプリートの候補表示を削除した。