私たちが 人工知能 （AI）について語るとき――これは最近も多く扱ってきたテーマで、The Conversationに寄稿した私の 責任と規制の問題 に関する概説も含まれる――では、実際に何を意味しているのだろうか。
AIの専門家や哲学者たちはこの問題に取り組んでいる。しかし、使用可能なAIの定義――しかも早急に――を持つことは、規制とガバナンスにとって不可欠である。定義がなければ、法律も政策も単純に機能しないからだ。
この定義の問題は、製品広告で「AI」という用語が正しく使われるかどうかの確保から、 次世代の自律型兵器システム （AWSs）が戦争法の下でどのように扱われるかの確立に至るまで、あらゆる規制の文脈に現れる。
確かに、「goodwill」が文脈によって異なる意味を持つように、最終的には複数の定義が必要になるかもしれない。しかし、現時点で規制上の定義が存在しない以上、どこかから始めなければならないので、議論を前に進めよう。
用語の定義：人工的と知能
規制の目的からすると、「人工的」は幸いにも最も簡単な部分である。「自然界に存在しない、または自然界に同じ形では存在しない」ものを意味しうる。ここで「または」の後に示された選択肢は、将来的に改変された生物学的材料が使われる可能性を考慮したものである。
そこで、より厄介な「知能」の問題が残る。
哲学的な観点から見ると、「知能」は、「意識」「思考」「自由意志」「心」のうち一つ以上を含むものとして扱われる場合、広大な地雷原である。少なくともアリストテレスの時代にまで遡ることができるが、これら「ビッグ・フォー」の概念をめぐる深遠な議論は、今もなお私たちの周囲で渦巻いている。
2014年、事態を前進させようと、ロシアのテクノロジー分野の億万長者ドミトリー・ボルコフは、 サミットを開催した 。その場所は、ダニエル・デネット、ポール・チャーチランド、デイヴィッド・チャーマーズを含む主要な哲学者たちを乗せたヨットの船上だった。
おそらく予想どおり、合意には至らず、チャーマーズは今後一世紀以内に合意が生まれる可能性は低いと示唆した。
とはいえ、規制当局を目指す者にとって幸いなことに、哲学的議論は、少なくとも当面は回避できるかもしれない。ひとまず一歩引いて、ここで規制当局の直接的な関心は何かを問うてみよう。
それは、AI科学者や技術者の成果物と、それらの成果物から生じうるあらゆる公共の福祉や安全上のリスクだと私は考える。
論理的に言えば、最も差し迫った関心事は、大多数のAI科学者や技術者が「知能」をどのように扱っているかという点である。
知能とAIコミュニティ
2000年代半ばまで、AIコミュニティでは人工知能を人間の知能と対比させる傾向があったが、それは単に責任を心理学者に押し付けるだけの行為だった。
2007年11月、 ジョン・マッカーシー（スタンフォード大学のAI先駆者）は この問題について次のように述べた：
問：人間の知能との関連に依存しない、確かな知能の定義はないのですか。答：まだありません。問題は、どのような計算手続きを知的と呼びたいのかを、いまだ一般的に特徴づけられないことです。知能の仕組みのうちあるものは理解しているが、他は理解していない。
この困難もあって、多くの研究努力が汎用人工知能（AGI）から特化型人工知能（ANI）へと振り向けられていた。
しかし、マッカーシーがこれを書いた直後、「人間に依存しない」一般的な「知能」の定義が登場した。普遍的なアルゴリズム的実体「AIXI」の形式化とともに、マーカス・ハッター（現在ANU所属）とシェーン・レッグ（現在Google DeepMind所属）は、 次のような 非公式な定義を提示し、それまでに彼らが 整理していた定義に代わるものとして：
知能とは、さまざまな環境において目標を達成するエージェントの能力を測るものである。
この非公式な定義は、規制当局が管理しうるものを指し示している。すなわち、1つ以上の（定義された）環境において、主体の（定義された）能力に関する客観的な尺度を確立し、適用することである。目標達成という中核的な焦点は、学習、計画、問題解決といった他の知能関連概念も見事に包含している。
しかし、依然として多くの障壁が残っている
第一に、AIXI自体が抱える基礎的な制約のために、この非公式な定義は規制の目的に直接使えない可能性がある。ハッターがしばしば強調する制約の一つは、時間と空間の制約のために、AIXIはコンピュータ上で「近似」されることしかできない、というものである。
もう一つの制約は、AIXIには「自己モデル」が欠けていることである（ただし、最近提案された「reflective AIXI」という変種がこれを変えるかもしれない）。
第二に、試験および認証の目的で、規制当局は知能を、（運動、コミュニケーションなどの）多くの下位能力に分解できるものとして扱えなければならない。しかし、これは汎用知能に基づくいかなる定義とも食い違う可能性がある。
消費者の視点から見れば、結局のところ、これはすべて、実際のAIを示すものとして定義されるシステムと、単にプログラム可能な別の箱にすぎないものとの線引きの問題である。
もしすべての障壁を乗り越えられたとしても、静かに満足している暇はないだろう。「ビッグ・フォー」がなくても、ますます高度化し遍在するAIシステムは、今後数十年にわたって社会に大きな影響を及ぼすだろう。とりわけ、 雇用の未来への影響が大きい。
しかし、ビッグ・フォーが（そう見える形で）AIシステムに現れることがあれば、哲学者を乗せた一隻のヨットではなく、一大レガッタ全体が必要になると言えるだろう。
本記事は、 The Conversationとの協力により掲載されたものです。掲載は、世界経済フォーラムによる見解の支持を意味するものではありません。
The Agenda の最新情報を追うには、 弊社の週刊ニュースレターに登録してください。
執筆者：ゲイリー・リー、オーストラリア国立大学（ANU）人工知能規制分野の客員研究員。
画像：ヒューマノイド・ロボット AILA（人工知能軽量アンドロイド）の手がスイッチボードを操作している。 REUTERS/Fabrizio Bensch.
