スマートトイの市場は急速に拡大しており、2023年までに180億ドルに成長する可能性があります。
スマートトイは学習に役立つ一方、子どものデータと安全を守るよう設計されていない場合にはリスクをもたらします。
多くの企業がスマートトイを倫理的かつ責任ある形で開発しており、AIを搭載したスマートトイのメーカーには、スマートトイ・アワードへの応募が奨励されています。
今年生まれた子どもが、幼少期のあらゆる段階でテクノロジーに囲まれて育つ様子を想像してみてください。ソフィーが3歳になったとき、両親は顔認識と人工知能（AI）を使って彼女を見守り、話を聞き、彼女から学習する人形を買い与えます。
多くの子どもたちと同じく、ソフィーもこのおもちゃを大好きになるでしょう。そして、お気に入りの人形やテディベアを持っていた従来の世代の子どもたちと同様に、何年にもわたってそれを持ち歩き、話しかけ、そばに置いて眠るようになるでしょう。
このスマート人形が責任をもって設計されていれば、このおもちゃは彼女の親友になり得ます。そうでなければ、それは彼女、その友人、さらには両親の行動や、その場で話された言葉のすべてを記録する監視ツールになってしまいます。
スマートトイはAIを使って遊ぶ子どもについて学習し、その子どもに合わせて遊びや学習体験をパーソナライズします。子どもの好きな色や歌を学習したり、その子どもや身近な人々を認識できるようになったりします。SFのように聞こえるかもしれませんが、すでにこうした機能を備えたスマートトイは数多く存在します。これらのおもちゃの市場は急速に拡大しており、2023年までに180億ドルに成長する見込みです。
AIのこの差し迫った利用に対応するため、世界経済フォーラムは最近、スマートトイ・アワードを立ち上げました。これは、子どもにとって革新的で健全な遊び体験を生み出す、倫理的かつ責任ある設計のAI搭載おもちゃを表彰するものです。
スマートトイは子どもにとって大きな可能性をもたらします。子どもについて収集したデータに基づいて学習内容を個別化できるほか、子どもにコンピュータープログラミングのスキルを教えることもできます。また、障害のある子どもが認知、運動、社会性のスキルを身につける手助けにもなります。
しかし同時に、子どものデータ、安全、サイバーセキュリティを守るよう設計されていない場合、スマートトイには大きな潜在的リスクもあります。
警鐘となる事例
ソフィーのスマート人形の例は、決して絵空事ではありません。2017年には、マイ・フレンド・ケイラ（顔認識と音声認識を備えた初期のスマートトイ）が、多くの国で違法な監視ツールと宣告されました。
ケイラ人形がスマートフォンに接続されていた場合、データはメーカーおよび第三者企業に送信され、処理・保存されていました。また、スマートフォンに「マイ・フレンド・ケイラ」アプリを入れた人は、おもちゃから30フィート（約9メートル）以内にいれば、そのおもちゃにアクセスし、子どもの話を聞くことができました。
ドイツでは、この人形に対して「使用禁止命令」が出され、保護者は「ハンマーで」人形を破壊するよう求められました。現在、ドイツに現存するケイラ人形はベルリンのスパイ博物館にあるものだけです。
スマートトイがもたらすリスク
ソフィーは18歳のときに大学へ出願します。もしスマート人形が3歳から9歳までの彼女のデータを収集していたら、そのおもちゃを作った企業は両親よりも彼女のことをよく知っているかもしれません。十分なデータ保護がなければ、企業はこのデータを、ソフィーが出願している大学や他の第三者に販売することもできてしまいます。
大学卒業後、ソフィーは就職に応募します。雇用主が、ソフィーが子どもの頃に収集されたデータを購入していたら、彼女の長所と短所を知ることができたかもしれません。ソフィーが幼い頃に妹をいじめたり、両親に怒鳴ったり、宿題をやるのを拒否したりしていたらどうでしょうか？家庭内の私的な空間で行われたこうした行為はすべて、企業に知られ、第三者に売られ、その情報をもとにソフィーを差別する材料として使われかねません。家族の生活はもはや私的なものではなくなるのです。
今日、データは金と同じ価値を持ちますが、子どもに関するデータを収集すること自体が本質的に問題をはらんでいます。企業はソフィーの人形を通じて子どもに関するデータを収集する中で、行動を起こしたり介入したりする責任を負う可能性があります。ソフィーが人形に、自殺願望や自傷行為について打ち明けたと想像してください。企業は保護者に知らせ、911に通報することを義務付けられるべきでしょうか？
スマートトイがより多くのデータを収集するほど、スマートトイ企業が直面する可能性のあるシナリオはより複雑になります。こうした情報を収集する機能を備えたスマートトイを設計するすべての企業は、子どもやその周囲の人々の安全を守るおもちゃを開発する際に、こうした最悪のシナリオを必ず考慮しなければなりません。
責任ある倫理的なスマートトイの開発
こうした重大なリスクがあるにもかかわらず、倫理的で責任あるスマートトイの開発は進んでいます。「スマートトイ・アワードは、AI搭載おもちゃを開発する企業のために、4つの主要なガバナンス基準を策定しました。それは、データプライバシーとサイバーセキュリティ、アクセシビリティと透明性、年齢への適合性、そして健全な遊びです。
ソフィーのスマート人形は、強固なデータプライバシーの重要性と、そのおもちゃを購入する大人に対し、スマート人形の機能と動作方法を明確に伝えることの重要性を示しています。これは、技術に詳しくない人にも理解できる言葉で利用規約に記載されなければなりません。少なくとも、スマートトイは米国のCOPPAの要件、および欧州連合（EU）のGDPRを満たす必要があります。
保護者や後見人は、子どものデータがどの相手と共有され、どのような目的で使用されるのかを理解すべきです。企業は、保護者、後見人、そして子どもが、子どものデータの利用方法について自ら決定できるようにすべきです。さらに、企業は子どものデータを第三者に販売すべきではありません。
データプライバシーは、倫理的で責任あるスマートトイの基盤ですが、それらはアクセシブルで、透明性が高く、年齢に適したものとして設計されるとともに、健全な遊びと子どもの精神的健康を促進するものでもなければなりません。
子ども時代の未来
ソフィーの人形が、彼女や両親にとって必ずしも懸念材料となるわけではなく、彼女について収集されたデータも、慎重に保護されていれば彼女の将来を妨げることはありません。EUでは、GDPRが「忘れられる権利」を定めており、同様の政策により、ソフィーのような子どもが、18歳になった時点でスマートトイによって子どもの頃に収集されたすべてのデータの削除を要求できるようにすれば、成人としての人生を新たな出発点から始めることができるでしょう。
ソフィーをはじめすべての子どもには、子ども時代、教育、キャリア、そして人生において公平な機会が与えられるべきです。子どもの頃に収集されたデータは、将来その子どもを差別するために使用されるべきではありません。
ソフィーの人形のようなスマートトイは、創造性や批判的思考力を育むことで、子ども時代において極めて重要な役割を果たすことができます。多くの企業が、倫理と責任に十分配慮してスマートトイを開発しています。当フォーラムは各社に対し、スマートトイを設計・開発する際に、当フォーラムのガバナンス基準を採用するよう強く求めます。
子ども時代はかけがえのない時期であり、保護者は子どもの体験を守るためにできることをすべて行います。しかし、民間、公共、非営利の各セクターのステークホルダーが協力し、子ども時代の本質を守り育む、倫理的で責任があり、革新的なスマートトイを開発しない限り、それは実現できません。
詳細の確認、応募、およびスマートトイ・アワードの視聴はこちら：
AI搭載スマートトイのメーカーは、スマートトイ・アワードに、2021年4月9日までに当フォーラムのウェブサイトの「応募」リンクから応募できます。
スマートトイと子ども時代に関心のあるすべての方は、2021年5月22日にライブ配信されるバーチャル表彰式をご覧ください。受賞者の発表には、特別ゲストで審査員のwill.i.amが登壇します。
