この記事は Quartzとの協力により掲載されています。
スカイネットが自我に目覚める前に、 ロボットが反乱を起こす前に、人工知能の研究を安全に進めるための体制を整える必要がある。そう主張するのは、Googleの親会社の会長エリック・シュミットと、同社のテクノロジー志向のシンクタンク、Google Ideasを率いるジャレッド・コーエンだ。
シュミットは長年、この技術の将来性に強気の見方を示してきた。Alphabetの自動運転車プログラムや、Googleの予測検索エンジンDeepMindといった実験的プロジェクトを支援し、AIが私たちの働き方や暮らしを一変させると述べ、AIに満ちた世界で暮らすことを 恐れる必要はない とまで語っている。
しかし、シュミットでさえAI研究にはある程度の慎重さが必要だと認めているようだ。物理学者のようなテクノロジー界の著名人も同様の呼びかけをしている。 スティーブン・ホーキング や、テスラCEOのイーロン・マスクもそうだ。（マスクは科学者や技術者のグループとともに、OpenAIと名乗り、「人類にプラスの影響をもたらす」 AI研究の推進 を目指して、10億ドルを拠出すると表明するまでに至った。） 論説記事 で、シュミットとコーエンは、AIを探究する際に開発者、研究者、企業が従うべきだと考える3つの原則を示した。
「第一に、AIは一部の人ではなく、多くの人に恩恵をもたらすべきだ。」
シュミットとコーエンによれば、人生を変えるテクノロジーは企業だけでなく、すべての人に恩恵をもたらすべきだ。「社会として、この可能性を活用し、AIが常に公益を目指すようにすべきだ」と2人は記している。
AI研究は「オープンで、責任あるものであり、社会と関わるべきだ」。
GoogleとFacebookは最近、AI研究の透明性を高める取り組みを始めた。Facebookは最近、 設計を公開し 、AI研究に使用するサーバーについて明らかにした。一方、Googleは コードをオープンソース化した 。それは同社のAIエンジンTensorFlowの基盤となるコードだ。しかし重要なのは、どちらの企業も、AIアルゴリズムの学習、テスト、強化に使うデータを公開しなかった点だ。このデータが成功を左右する要因となる可能性がある。
「AIを設計する人々は、望ましくない結果を避けるため、ベストプラクティスを確立すべきだ。」
研究者は、システムの開発中に自ら問いかける必要がある。AIシステムの学習に使うデータは適切か、研究の副作用として考慮すべき点はないか、システムに十分な安全策が組み込まれているか。「AIシステムが本来の目的どおりに動作しているかを評価する検証システムが必要だ」と、シュミットとコーエンは記している。
人工知能は急速に、SFの世界から現実へと移行している。ありがたいことに、コンピューターシステムが 世界の終末を引き起こす 事態をまだ心配する必要はないが、すでに、 がんを診断し、 私たちの予定を管理し 、さらに 床を掃除する スマートシステムが存在する。科学者や深く考察する人々の言葉を信じるなら、自らの意思で真に考え、行動できるAIシステムを実現すれば、知能の面で AIは私たちを追い越す までにそう時間はかからない。これを制御するには、この知能の開発を、人類に混乱をもたらすのではなく、人類に恩恵をもたらす方向へ導くべきだ。 掲載は、世界経済フォーラムが見解を支持することを意味するものではありません。
Agendaの最新情報を受け取るには、 週刊ニュースレターにご登録ください。
著者：Mike Murphyは、テクノロジーを担当するQuartzの記者。
画像：ドイツ人工知能研究センターによるデモンストレーションで、人型ロボットAILA（人工知能搭載の軽量アンドロイド）の手が配電盤を操作している。REUTERS/Fabrizio Bensch。
