coppa
toys

子供用の会話ロボットには危険あり?!

次の記事

オバマの選挙戦で分析を担当したDan Wagnerのデータ活用コンサルCivis Analyticsが$22Mを調達…‘なぜデータの専門家がTrump勝利を当てられなかったのか’

子供に会話するおもちゃを買い与えようと思っているのなら、数年ほどは待った方が良いのかもしれない。消費者グループから、プライバシーないしセキュリティ上の問題があるとして、FTCに報告が行われたのだ。

行き過ぎた疑念や不満などといったものには賛成しない。こうした玩具が世界中で子供たちとの会話を秘密裏に録音して利用するようなことを行なっているかどうかも確かではない。しかし、こうした玩具を利用するのは自ら守る術を持たない幼い子供たちだ。こうしたケースでは、たしかに用心しすぎるということはないのかもしれない。企業の方にも、情報がいかに利用され、またどのような保護策が講じられているのかを、完全に明らかにする必要があるとも思う。

消費者から行われた告発(PDF)は電子プライバシー情報センター(Electronic Privacy Information Center)他2団体に対して行われたものだ。それによればGenesis ToysおよびNuance Communicationsが「事前の説明なく、ペアレンタルコントロールを利用させることもなく、不当かつ不適切に子供の声を収集、利用、開示している」としている。これはCOPPA(Children’s Online Privacy Protection Act)などの法律に抵触するものだとしている。

対象の玩具は「My Friend Cayla」という女の子の人形と、ロボット型の「i-Que」だ。スマートフォンからBluetooth経由で操作するようになっている。音声はNuanceないしGoogleのサーバーに転送してテキスト化し、このテキストは事前に指定されたサービスに送って利用することができるようになっている(罵り言葉など、ブラックリストに載せられていてテキスト化されない言葉もある)。詳細についてはThe Consumeristの記事に記されている。

そもそも、個人的にはこうした玩具についてはあまり賛同できない(ぼくの子供の頃は……と、そういう話をする場所ではなかった)。子供とおもちゃの関係に応じた会話を行うとしているものの、予めプログムされた要素が大きいのはまだ良かろう。ただ、会話したデータがどのように扱われるのかがまったくわからないとなると不安になってくる。子供に関するデータは法律に則って扱われるべきだ。保護者の同意は必ず必要だし、収集されたデータを確認して削除するようなことができるようにもなっていなければならない。問題となっているおもちゃは、どうやら法的ルールを軽んじているように思われるのだ。

my-friend-cayla

ちなみにGenesisのプライバシーポリシーをみると、収集されるデータの扱いについてはデータを蓄積するGoogleおよびNuanceのプライバシーポリシーを見るようにとなっている(リンクされていない)。Nuanceのプライバシーポリシーをみてみると「お客様が18歳未満の場合はニュアンスとの情報の共有について両親もしくは保護者の同意が必要であり、お客様がご自身の情報を送信することはできません」とある。送信されるデータは、アルゴリズムを進化させるために他サービスと連携させるケースもあり得るわけで、そのためにクライアント側にも慎重な姿勢を求めているということなのだろう。

このポリシーはNuanceのようなサービスを展開している場合には当然のことともいえる。しかし4歳から8歳程度の子供を対象としたプロダクトでサービスを利用するのであれば、「データを転送しないで」という以外の保護方針があってしかるべきではなかろうか。この件についてはNuanceの見解を問うているところだ。

Genesisの方は、子供たちの発した音声やテキストを保存しているのかどうかについて明らかにしていない。子供の声はマサチューセッツにある巨大サーバーに保管されているのか。次期モデルのマーケティングのためにデータマイニングに活用されているのかどうか。あるいは第三者に有償で提供するようなことが行われているのかどうか。そうしたことのすべてが、現状では闇の中だ。そうであるのなら、安全性面やプライバシー面を考えて、最悪のケースを想定して判断した方が良いように思う。もちろんGenesisの方にも質問を投げているところだ。

今回話題にしているGenesisの玩具に限らず、こうしたタイプのガジェットでネットに接続するものには、十分なセキュリティ対策が施されていないことも多い。「スマート」ロックも、「セキュリティ」カメラなど、それなりのセキュリティ機能を備えていると考えてしまいがちなものも、すぐに破られるような対策しかしていないことがある。ガレージを覗き見されるくらいならまだマシかもしれない。しかし子供がおしゃべりして遊んでいる様子が、そっくり見ず知らずの人に漏れているというのは、想像すらしたくないことではなかろうか。

My Friend Caylaは100万体も売れたそうだ。バーゲンのときにちょっとだけ売れたという規模のものではない。製作者は保護者たちの関心や非難に対し、十分納得の行く説明をしていくべきだと思う。

原文へ

(翻訳:Maeda, H