AIを搭載した機械が人類を上回る知能を持ち、世界を支配し、私たち全員を殺すという見方は、ディストピアを描くSFの定番だ。人間が依然として確固たる主導権を握っていることを考えれば、簡単に退けられる。しかし、多くのAI専門家はこの破滅的な見方を真剣に受け止めており、それは正しい。
人工知能の近年の進歩は、まさに目覚ましい。AIは交通、医療、防衛に至るまで、社会のほぼあらゆる分野を変革しつつある。だからこそ、AIがすでに高度な現在の水準をさらに超えたとき、何が起きるのかを考える価値がある。
破滅的な見方によれば、AIを搭載した機械は人類を上回る知能を持ち、世界を支配し、私たち全員を殺す。このシナリオはSFによく登場し、人間が依然として確固たる主導権を握っていることを考えれば、簡単に退けられる。しかし、多くのAI専門家はこの破滅的な見方を真剣に受け止めており、それは正しい。社会の他の人々も同様に受け止めるべきだ。
何が懸かっているのかを理解するために、「特化型AI」と「汎用人工知能」（AGI）の違いを考えてみよう。特化型AIは一度に一つ、または少数の領域でしか機能できない。そのため、特定のタスクでは人間を上回ることがあっても、人間の管理下にとどまる。
これに対しAGIは幅広い領域にわたって推論できるため、記憶を完全に呼び出せるといったコンピューターの利点をすべて保ちながら、人間の知的能力の多くを再現し得る。高度なコンピューター・ハードウェア上で動作すれば、AGIは人間の認知能力を上回る可能性がある。実際、AGIがどこまで高度化し得るか、その上限を想像するのは難しい。
現状では、AIの大半は特化型だ。実際、現在の最先端システムでさえ、汎用性は限られている。たとえばGoogle DeepMindのAlphaZeroは囲碁、チェス、将棋を習得できた。これは、特定の一つの活動にしか適用できない他の多くのAIシステムより汎用性が高いことを示す。それでも、その能力が実証されたのは、高度に構造化された特定のボードゲームという限られた範囲にとどまる。
多くの有識者は、高度なAGIが実現する可能性を否定している。たとえば、セルマー・ブリングスヨルドレンセラー工科大学のドリュー・マクダーモットイェール大学のマーガレット・A・ボーデンサセックス大学のオレン・エツィオーニアレン人工知能研究所のは、AIが人類の知能を上回ることは不可能だと主張する。また、サセックス大学のマーガレット・A・ボーデンやアレン人工知能研究所のオレン・エツィオーニのように、人間レベルのAIは遠い将来に実現するかもしれないが、今から心配し始めるのは時期尚早だと主張する人々もいる。
こうした懐疑論者は、気候変動科学に疑念を投げかけようとする変わり者のような、取るに足らない人物ではない。彼らはコンピューター科学や関連分野の優れた研究者であり、その意見は真剣に受け止めなければならない。
しかし、ほかにも優れた研究者がいる。たとえば、デイヴィッド・J・チャーマーズニューヨーク大学のほか、イェール大学のアラン・ダフォーとスチュアート・ラッセルカリフォルニア大学バークレー校のニック・ボストロムオックスフォード大学のほか、ローマン・ヤンポルスキールイビル大学のは、AGIが人類に深刻な脅威、さらには存亡に関わる脅威をもたらす可能性を懸念している。専門家の意見が議論の両側に分かれている以上、私たちも心を開いて考えるべきだ。
さらに、AGIは大規模な研究開発の対象となっている。私は最近、AGIの研究開発プロジェクトに関する調査を完了し、6大陸30カ国で45件を確認した。活発な取り組みの多くは、百度、Facebook、Google、Microsoft、Tencentなどの大手企業や、カーネギーメロン大学、ハーバード大学、スタンフォード大学などの有力大学、さらには中国科学院で行われている。これらのプロジェクトが一つも成功しないと単純に決めつけるのは賢明ではない。
AGIがもたらす潜在的な脅威を考える別の方法は、ほかの壊滅的リスクと比較することだ。1990年代、米国議会は地球に衝突する可能性のある大型小惑星をNASAに追跡させることを決めた。その衝突確率はおよそ1世紀あたり5,000分の1だったにもかかわらずだ。AGIについては、研究開発の進展の速さと専門家の強い懸念を踏まえると、今後1世紀のうちに大惨事が起こる確率は100分の1、あるいは10分の1に達する可能性がある。
では、何をすべきだろうか。まず、研究開発が責任を持って、安全かつ倫理的に行われるようにする必要がある。そのためには、AI分野の実務者と政策立案者、社会科学者、懸念を抱く市民との対話を深めなければならない。分野の実務者は技術を理解し、合意された基準に沿ってそれを設計することになるが、基準の内容を彼らだけで決めてはならない。AIアプリケーションを開発する人々の多くは、自分たちの仕事が社会に及ぼす影響について考えることに慣れていない。それを変えるには、外部の視点に触れる必要がある。
政策立案者は、AGIの国際的な側面にも取り組まなければならない。現在、AGIの研究開発の大部分は米国、欧州、中国で行われているが、コードの多くはオープンソースであり、どこからでも研究開発を進められる可能性がある。したがって、基準や倫理的な基本ルールの策定は、最終的には国際社会全体の役割である。ただし、研究開発の拠点が主導すべきだ。
今後を見据えると、AGIがもたらすリスクに対処する取り組みの一部は、特化型AIを対象にすでに導入された政策施策を活用できる。たとえば、メリーランド州選出の民主党下院議員ジョン・ディレイニーが新たに立ち上げた超党派のAI議員連盟などがある。近い将来のAIリスクに取り組む人々と長期的な視点で考える人々の間には、多くの相乗効果を生む機会がある。
特化型AIとAGIを一緒に考えるか別々に考えるかにかかわらず、最も重要なのは、将来の大惨事のリスクを最小限に抑えるため、今すぐ建設的な行動を起こすことだ。土壇場になってから完了できると期待できる課題ではない。
