【5月11日 AFP】米グーグル（Google）がこのほど開発した人工知能（AI）を備えたデジタルアシスタントは、あまりにも自然な会話をするために本物の人間と間違えるほどだ。

このIT最大手企業が今週発表した自然な音声のロボットアシスタントは、一部の人に驚きをもって迎えられたが、一部ではその使用の際の倫理的側面に懸念が示された。

グーグル・アシスタントの新技術「デュープレックス（Duplex）」のデモを受け、電話に応答する人々に、会話の相手は人の声をまねたソフトウエアであることを知らせるべきかどうか、また同技術は、販売員や政治運動によって、よりもっともらしい「ロボコール（コンピューターを使い大量にかける自動音声録音電話）」の形で悪用される可能性はないか、直ぐに議論が巻き起こった。

ハッシュタグをツイッター（Twitter）に初めて導入した製品デザイナーのクリス・メッシーナ（Chris Messina）氏は、「グーグル・ デュープレックスはグーグルの今年の開発者向け会議#IO18において、最も素晴らしい、恐るべきものだ」とツイッターに投稿。

世界経済フォーラム（World Economic Forum）第四次産業革命センターでAIと機械学習プロジェクトを率いるケイ・ファース・バターフィールド（Kay Firth-Butterfield） 氏は、グーグル・デュープレックスは重要な開発であり、人をだまして人間だと思い込ませることのできる機械に対し、その適切な管理方法を把握する必要性を緊急に示していると語った。

「この機械は政党に代わって電話をかけ、さらに説得力のある投票の推薦を行うことが可能だ」とファースバターフィールド氏は論じた。「たとえば子どもたちがこうした代理を利用したり、機械からの電話を受けたりすることになるのだろうか」

人に代わって予約をするデジタルアシスタントは、予約の時間を間違えて現れなかった場合やキャンセル料金といった、誤りの責任をだれが取るのかという疑問も生みだしている。

オンライン上のプライバシーをめぐる懸念が高まる現在、どのようなデータをデジタルアシスタントが収集し、それを誰が入手できるかについての懸念も表明された。

デュープレックスのブログの下のチャットフォーラムに投稿したローレン・ワインスタイン（Lauren Weinstein）さんは「私の考えでは、人は一般的に、相手が機械だと分かっていて話すぶんには、気にしないと思う」と述べた。

ツイッター上では、ソフトウエアと会話していることを人々に知らせないのは、倫理違反だと批判するコメントが多く見られた。(c)AFP/Glenn CHAPMAN