人工知能（AI）とは、知的に振る舞うソフトウェアやシステムをどのように作るかを研究する学問分野です。AI研究者は、推論を要する課題を解決し、データから学習し、意思決定や計画を立て、ゲームをし、周囲の環境を認識し、自律的に移動し、物体を操作し、人間の言語で表現された質問に答え、言語間の翻訳を行うなどの能力を持つシステムを構築します。
AIは何十年にもわたり人々の想像力をかき立ててきました。とりわけ、人間の姿や性質を与えられたロボットという形でそうでした。近年の進歩によって、AIは広く知られ、利用されるようになっています。IBMのコンピューター「ワトソン」は、最高レベルの人間の ジェパディ！ 出場者を打ち負かしました。統計的手法により、Googleの自動翻訳サービスや、AppleのSiriなどのデジタルパーソナルアシスタントは大きく改善しました。半自律型ドローンは世界各地で軍事目標を監視し、攻撃しています。また、Googleの自動運転車は公道を数十万マイル走行しました。
これは1950年代以降の大きな進歩を示していますが、あらゆる人間の労働を代替できる機械という当初の夢は、いまだ実現していません。重要な教訓の一つは、ハンス・モラベックが1980年代に記したように、「コンピューターに知能テストやチェッカーで成人レベルの成績を示させるのは比較的簡単だが、知覚や移動能力に関して1歳児の技能を与えるのは困難、あるいは不可能である」ということでした。
こうした課題をはじめとするAIの進歩を阻む要因は、今ではこの分野でよく知られています。しかし、最近の調査によれば、最も多く引用されている存命のAI研究者たちは、今世紀後半、あるいはそれより早く、人間レベルのAIが実現すると依然として予測しています。そして数年から数十年後には、人間を大幅に上回る知能を持つAIが続くと見ています。彼らの予測が正しければ、このような進歩は人間の活動のほぼすべての分野を変革する可能性があります。
この技術的転換をうまく進められれば、生産性と生活水準が大幅に向上する可能性があります。一方、転換を誤れば、その結果は破滅的なものになりかねません。どのような形で転換を誤る可能性があるのでしょうか。
世間の認識やハリウッド映画の筋書きとは異なり、高度なAIが突然意識を持ち、悪意を抱く可能性は低いようです。むしろ、核心的な問題はAIの目標を人間の目標と整合させることにあります。人間を上回る知能を持つAIを、発明者の意図と微妙に異なる目標設定で作った場合、そのAIが目標を追求するために利用可能なあらゆる資源を使うのを阻止できるかどうかは明らかではありません。それは、チンパンジーが人間の思いどおりの行動を止められないのと同じです。
しかし、より近い将来には、ほかにも数多くの社会的課題に対処する必要があります。今後数十年のうちに、AIは多くの職業で人間の労働を部分的または全面的に代替すると予想されています。高い雇用水準を維持できるほど速やかに、人間の労働者を再訓練できるかどうかは明らかではありません。
さらに、これまでの技術革新の波も新たな種類の仕事を生み出してきましたが、今回はAIが自ら生み出す新しい仕事でも人間を上回る能力を持つ可能性があるため、構造的失業が恒久化するおそれがあります。その場合、経済取引の本質や、人間が互いに何を提供できるのかという根本的な問いを提起し、経済を全面的に再構築する必要が生じるかもしれません。
自動運転車やその他の人間とロボットの相互作用の事例には、 自動的な意思決定と、身体的危害を及ぼす能力との新たな組み合わせに適した法的解決策が求められます。自動運転車は、乗客の負傷リスクと歩行者のリスクを比較考量しなければならない状況に直面します。車両の判断が誤っていたと考える当事者は、どのような法的救済を受けられるのでしょうか。
複数の国が、人間の介入なしに情報を評価し、標的を選び、発砲できる自律型致死兵器システムの開発を進めています。こうした動きは、 国際法と非戦闘員の保護に新たな課題をもたらします。国際法に違反した場合、誰が責任を負うのでしょうか。ジュネーブ諸条約は明確ではありません。また、人間がいつ介入するのかも明らかではありません。配備前でしょうか、それとも配備中でしょうか。人間が自律型兵器のプログラミングに関与することはあります。問題は、配備の瞬間に兵器に対する人間の統制が失われるかどうかです。
金融などの分野でのAI利用は、人間が気づいて対応する前に、AIプログラムが経済的に重大な意思決定を何百万件も下せるという事実に伴うリスクをもたらしています。その一例が、 ナイト・キャピタルを破産寸前に追い込んだ2012年5月の取引事件です。
要するに、リチャード・ポズナーが「技術の進歩が技術に対する社会的統制を追い越す傾向」と表現した事態に対抗するため、多くの分野で先を見据えた積極的な取り組みが必要です。
著者：スチュアート・ラッセルは、カリフォルニア大学バークレー校のコンピューターサイエンス教授およびスミス＝ザデー工学教授です。ベルンハルト・ペーターマイアーは、世界経済フォーラムのテクノロジー・パイオニア担当シニア・コミュニティ・マネージャーです。
画像：2013年3月9日、チューリヒで開催された展示会「ロボット・オン・ツアー」で、人型ロボット「ロボイ」の手に触れる子どもたち。REUTERS/Michael Buholzer
