一部の人々は、重武装した人工知能ロボットが世界を乗っ取り、人類を奴隷にする、あるいは絶滅させるかもしれないと恐れている。テクノロジー業界の億万長者イーロン・マスクや著名な物理学者スティーブン・ホーキングを含むこうした人々は、人工知能技術は規制される必要があり、リスクを管理すべきだと主張する。しかし、マイクロソフト創業者のビル・ゲイツとフェイスブックのマーク・ザッカーバーグは異を唱え、そうした懸念が現実となるほど技術はまだ十分に進歩していないと述べている。
ロボットの意思決定におけるAIの働きを研究する者として、ドローンや自動運転車において、AIがどれほど有益になり得るかを見てきた。私は、チームで働くロボットが個別に意思決定できるようにするAIソフトウェアを開発した。それは、問題を探究し解決するための集団的な取り組みの一環である。研究者はすでに、公共の安全を守るための既存の規則、規制、法律の対象となっている。さらなる制限を課せば、AIシステムのイノベーションの可能性が損なわれるおそれがある。
現在、AIはどのように規制されているのか？
「人工知能」という言葉から人間のようなロボットの空想的なイメージが浮かぶかもしれないが、多くの人はすでにAIに接している。AIは、買い物中に類似商品を見つけるのを助け、映画やテレビ番組を推薦し、ウェブサイトを検索するのにも役立つ。また、学生の作文を採点し、個別最適化された指導を提供し、さらには物体を認識することもできる。物体は空港のスキャナーを通過する。
いずれの場合も、AIは人間の作業を容易にする。たとえば、私が開発したAIソフトウェアは、科学実験の一環として、野原で植物や動物を探す計画を立て、実行するために使える。しかし、AIが人々をこの作業から解放するとしても、その行動は、どこを探し、何を探すかについての人間の判断や目標に基づいている。
こうした分野をはじめ多くの分野で、AIは適切に使えば、害をはるかに上回る恩恵をもたらす可能性がある。しかし、現時点で追加規制は必要ないと私は考える。すでに各国、州、市町村には、有害な行為に関する民事・刑事責任を定めた法律がある。たとえば、ドローンは連邦航空局（FAA）の規則に従わなければならず、自動運転車のAIは公道を走行する際、通常の交通法規に従わなければならない。
既存の法律は、ロボットが人を負傷させたり死亡させたりした場合についても定めている。たとえ負傷が事故であり、ロボットのプログラマーや操作者が刑事責任を問われない場合でも同様だ。技術の進歩に伴い、議員や規制当局はAIシステムの行為に対する責任のあり方を見直す必要があるかもしれない。しかし、既存のものを超える規制を設ければ、非常に大きな恩恵をもたらす能力の開発を禁じたり、遅らせたりするおそれがある。
人工知能がもたらす潜在的リスク
人間の制御を完全に離れて動作する極めて高度な人工知能システムを研究者が開発していることを懸念するのは、もっともに思えるかもしれない。よくある思考実験では、自動運転車が決断を迫られる状況を考える。道路に飛び出したばかりの子どもをひくか、ガードレールに向かって進路を変え、車内の乗員や、場合によっては別の車の乗員を負傷させるか、という選択だ。
マスクやホーキングらは、自動運転車の制御のような単一のタスクに限定されない、非常に高性能なAIシステムが、もはや人間は不要だと判断するのではないかと懸念している。地球に対する人間の管理や、人々の対立、窃盗、詐欺、頻発する戦争に目を向け、人間のいない世界のほうがよいと判断するかもしれない。
SF作家アイザック・アシモフは、この可能性に対処しようと、ロボットの意思決定を制限する三原則を提唱した。ロボットは人間を傷つけてはならず、人間が「危害を受けること」を許してもならない。また、人間に危害を加える場合を除き人間に従わなければならず、人間に危害を加えたり命令を無視したりしない限り、自らを守らなければならない。
しかし、アシモフ自身も知っていたように、三原則だけでは不十分だった。また、人間の価値観の複雑さを反映していない。「危害」とは何かがその一例だ。ロボットは、人口過剰に伴う苦しみから人類を守るべきなのか、それとも個人が生殖に関する決定を自ら下す自由を守るべきなのか。
人間である私たちは、人工的ではない自らの知性において、すでにこうした問いに向き合ってきた。研究者たちは、人間の自由に対する制約を提案してきた。人々の行動、人口増加、環境破壊を抑えるために、出生を減らすことなども含まれる。一般に、目標がもっともらしく見えても、社会はこうした方法を使わないと決めてきた。同様に、AIシステムに何ができるか、できないかを規制するよりも、私の考えでは、人間の倫理観や価値観を教えるほうがよい。親が人間の子どもにそうするように。
人工知能の恩恵
人々はすでに毎日AIの恩恵を受けているが、これは始まりにすぎない。AI制御のロボットは、武装した人間への対応で法執行機関を支援できる。現在、警察の取り組みでは警察官が負傷しないようにすることが優先されるが、ロボットなら危険に身をさらすことができ、ジョージア工科大学で最近起きた、武装した大学生の銃撃事件や、オースティンで起きた、武器を持たない高校生の銃撃事件のような事例の結末を変える可能性がある。
知能を備えたロボットは、ほかの方法でも人間を助けられる。たとえば、センサーデータの処理のような反復作業を担えば、人間が退屈してミスをするのを防げる。また、危険物質や危険な状況に人間がさらされる機会を減らせる。人間が立ち入れない場所での原子炉の除染などがその例だ。一般に、AIロボットは人間がほかの作業をせずに済むようにし、各自が幸福と定義するものを追求する時間を増やせる。
こうした恩恵の大半を実現するには、さらなる研究開発が必要になる。AIの開発コストを高めたり、特定の用途を妨げたりする規制は、こうした取り組みを遅らせたり、頓挫させたりする可能性がある。これは特に、新技術を生み出す重要な担い手であり、大企業ほど規制遵守に対応できる体制が整っていない中小企業や個人に当てはまる。実際、AI規制の最大の受益者は、規制への対応に慣れた大企業かもしれない。規制環境では、スタートアップ企業が競争しにくくなるためだ。
イノベーションの必要性
人類はインターネットの黎明期にも、同様の課題に直面した。しかし、米国はインターネットの初期の成長を妨げないよう、規制を積極的に避けた。マスクのペイパルや数多くの企業は、窃盗や詐欺を防ぐ規則など、一般の人々に適用される通常のルールの下で、現代のオンライン世界の構築に貢献した。
人工知能システムは、人間のあらゆる活動のあり方を変える可能性を秘めている。科学者、エンジニア、プログラマー、起業家には、技術を開発し、その恩恵を届ける時間が必要だ。一部のAIが禁止されるかもしれないという懸念や、AIに特化した新たな規制に伴う遅延やコストに縛られず、彼らが取り組めるようにすべきだ。
