スマホのAIももしかしたら…子供向け対話人形で無許可の情報収集とディズニーステマ疑惑

投稿日:

by HikaruSano

こんにちわ、Hikaru Sanoです。

ワシントンの非営利組織である電子プライバシー情報センターが「子供の会話を録音、収集しサーバへ送信している人形がある」と発表しました。

対象の商品はいわゆる「対話人形」だったのですが、一体事件の全容はどのようなものだったのでしょうか?

完全無許可の情報収集

この人形を開発したのはNuanceという企業で主に音声認識ソフトウェアを開発し、各機関が声紋認識の照合に使用するデータベースを所有しています。

対話の内容を「録音・収集・サーバ送信」する点についてはiPhoneなどのSiriも同様なのですが、問題なのは完全に無許可であったこと

Siriの場合、「設定」の「Siri」のスイッチ下部にプライバシーポリシーリンクがあり、そこではどういった情報が収集・送信されるのか記述されています

一応「Siriと音声入力の応答制度が向上するよう」とされていますが、「録音された音声」の他に「ユーザ名やニックネーム」「連絡先の一部の情報」「曲名」「HomeKitデバイス名」「フォトアルバム名」「保存されたApp名とユーザーデータ」などかなりの情報が送信されているのがわかりますね。

今回の事件では「対話人形」である『My Friend Cayla』と『i-Que robot』が問題となっており、対話内容を録音・収集・サーバ送信する事についてなんら説明がされていないそうです。

つまり、購入者である両親ですら対話の取り扱いについて一切知ることができなかったワケですね。

電子プライバシー情報センターはNuanceが収集した情報を他の製品の制度向上にも利用されていると指摘、ユーザの許可なしに録音データを収集することが法律に抵触する可能性は十分に考えられます。

また『My Friend Cayla』に「私の秘密を話してもいい?」と聞くと、「どうぞ。でも静かにしないといけないよ。誰にも話さないと約束する。私と君だけの話だよ。だって私たちは友達だものね」と答えるそうですが、全部筒抜けとの事。

さらに『My Friend Cayla』はディズニーに関連する発言が多くプログラムされており、好きな映画や音楽、場所にディズニー関連の名称が使われ「ステルスマーケディングではないのか」とも指摘されています。

大好きなオモチャに言われた好きなものがまさか広告だとは、子供には絶対にわからないですね。

今回は2種類の対話人形についてこのような事が発覚しましたが、他の対話人形や音声入力系のソフト、AIソフトでも同様の事があるかも知れないだけに、危険視する有識者は多いようです。

まとめ

いかがでしたか?

無許可での対話録音は完全に盗聴で、それを収集・自社サーバへ送信させているというのは親からしたらかなり怖い話だったと思います。

この会社とディズニーの関係も気になるところですが、ステルスマーケティングだったのか、ただ単にディズニー関連の発言をさせていたのかで事件の規模も変わってきそうですね。

iPhoneをチェックする

 au民は見ない方がいいかも。最終的に全然違うよ。

参考:Gigazine

人気記事

ランキングの続きを見る


関連記事