プライバシー関連の法律にもいろいろと抵触してる、との指摘。

ここ数年人工知能がいろんなところに普及して、スマートフォンやパソコンはもちろんのこと、ドローンやバス、そして子どものおもちゃにまで搭載されるようになりました。たとえばこちら｢My Friend Cayla｣（以下Cayla）は、子どもの｢好きな色は？｣｢ケーキってどうやって作るの？｣みたいな質問を理解してそれに答えたり、一緒にゲームをプレイしたりできます。

そのCayla、そしてCaylaと同じ技術を使った男子用おもちゃ｢i-Que Intelligent Robot｣（以下i-Que）が、｢聞き取った音声データを、こっそり外部のサーバに送信していた｣ことが発覚しました。さらにプライバシーに関する法律にいろいろと抵触しているだけでなく、簡単にハックされて盗聴器化してしまう可能性までが指摘されています。

これは、｢コンシューマー・レポート｣を発行するConsumers Unionなどいくつかの消費者団体が共同で米国連邦取引委員会（FTC）に対して提出した告発文書によって明らかになりました。Consumeristによれば、Caylaとi-QueのメーカーであるGenesis Toysと、そこに音声認識技術を提供しているNuance Communicationsは、子どものプライバシーを守るための法律に抵触しています。

米国にはChildrens' Online Privacy Protection Act（児童オンラインプライバシー保護法）、略してCOPPAという法律があり、企業が子どもに関してデータを収集するときにはいくつかの規定があります。たとえば親に対してプライバシーに関する通知を行なうとともにデータ収集の同意を取り付けること、子どものデータを親が確認・削除できるようにすること、データをサードパーティーと共有しない選択肢を設けること、などです。

今回、Caylaとi-QueではこれらCOPPAの求める要件を満たせていないことが指摘されました。

Caylaやi-Queは、子どものデータを収集する機能があるにもかかわらず、そもそもプライバシーポリシーや利用規約がどこにあるのかもわかりにくい状態でした。それに（ありがちなことですが）利用規約も会社の意志で予告なく変えられることになっていました。

さらにCaylaとi-Queの仕組みの分析によって、Caylaやi-Queが他のBluetoothデバイスと接続するときには認証がまったく不要になっていることが発覚しました。つまり、Bluetoothが届く15mほどの範囲にあるデバイスからは誰でもアクセスできる状態でした。そして、たとえばスマートフォンAでCaylaに接続し、スマートフォンBからスマートフォンAに電話をかけると、Caylaが聞き取っている音声を聞き取れました。

つまり、Genesis ToysともNuance Communicationsとも関係ない第三者が、盗聴器として使うこともできたんです。下の動画の00：23あたりから、それが確認できます





この手のおもちゃでは、会話できるバービー｢Hello Barbie｣もセキュリティー対策が不十分であることが指摘されていました。でもバービーの場合は、音声を聞き取らせるためにボタンを押す必要があったんですが、Caylaたちはつねに音声を聞いている仕様で、その分リスクが高くなります。

つねに音声を聞いているといえば、Amazonの人工知能アシスタント・Amazon Echoもデータを盗聴される危険性を指摘されていますし、Google Homeだって同様のリスクがあるはずです。

お気に入りのおもちゃやロボットと会話できるとか、部屋の片隅でつねに指示を待ち受けてくれているアシスタントがいるとか、我々は人工知能によって、今までにない楽しさとか利便性とかを享受できるようになりました。でもその分いつもうっすら、｢この会話、誰かに聞かれてないかな？｣っていう心配をしなきゃいけなくなってるのかもしれません。

もっと読む：

・IoTプロダクトはこんなに簡単にハッキングされる

・コンピュータにつながったヘッドホンを、密かにマイクに変えてしまう恐ろしいマルウェア

image by YouTube

source: Consumerist, YouTube

（福田ミホ）