人工知能（AI）はすでに日常生活に組み込まれているが、チャットボットの革命には警告も伴ってきた。
AIを「存在に関わる脅威」とするディストピア的な描写は、合理的かつ科学的な実質よりも、センセーショナリズムに負うところが大きい。
実際には、AIは21世紀の「RenAIssance」を切り開きつつあり、世界の共同体をエンパワーメントの時代へと導くものである。
チャットボットや画像生成ツールのような派手な話題はないものの、人工知能（AI）はすでに静かに日常生活に組み込まれている。スマートフォンを開くために顔を認識し、旅行中に外国語のテキストを翻訳し、交通状況の中で道案内をし、さらにはどの映画を観たいかまで選んでくれる。
しかし、チャットボットの革命には、AIの有用性の高まりを核戦争による破滅や自然災害のような「存在に関わる脅威」になぞらえる、不吉な警告も伴ってきた。インターネット上のインフルエンサーは「神のようなAI」という亡霊を持ち出し、抽象的で、時には不条理な主張を繰り広げている。
こうした主張は、学術界やビジネス界の一部の大物たちによっても増幅されてきた。彼らは終末論者の叫びに自らの権威を貸し、教養ある社会が求める合理的な分析や証拠を受け入れるのではなく、人々の恐怖や不安をあおっている。
今日の科学の最先端で研究し、革新を進めている実際の研究者や技術者の声は、耳に届かないか、かき消されるおそれがある。
規制を急ぐ動きの勝者は、おそらくビッグテックになるだろう。敗者は誰か。社会に透明で、オープンかつ責任ある技術をもたらすことを目指す、スタートアップやオープンソースのコミュニティである。
AIの脅威は「誇張された」ものであり「ディストピア的」である
実際の存在に関する脅威を詳しく見ると、AIに関する想定上の脅威をめぐる誇張が明らかになる。気候変動による氷河の融解、広島と長崎の核戦争がもたらした消えない傷跡、そしてCOVID-19のようなパンデミックの惨禍は、現実に存在する差し迫った危険を如実に物語っている。
AIのこうしたディストピア的な描写は、科学的な実質よりも、センセーショナリズムに負うところが大きい。核兵器や気候変動が差し迫った脅威であるのとは異なり、AIにおいて主張されている脅威は、SFに近いものである。HAL-9000、Skynet、Ultronは、いずれも創造主に背くとされる人工知能が登場する、おなじみの映画の悪役である。
AIの現実は、研究科学者として私たちが解決しようと取り組む実際の課題とは大きく異なる。「AI」という用語自体は、膨大な数の科学分野、技術革新、人工物、そして人間の関わり方をカバーしている。存在に関わる脅威へと逸れていく議論においては、誤解や誤用が多く含まれている。
将来の脅威に関する誤解を招く予測は、AIモデルの数年間の成長曲線からの、科学的に根拠の乏しい外挿に基づいている。どのような技術の成長曲線も、無限に上昇し続けることはない。成長は、半導体チップのトランジスタ密度やスーパーコンピューターのフロップス数に見られるように、物理法則、エネルギー制約、パラダイムの限界によって制約される。
現在のソフトウェア、ハードウェア、数学が、大きなパラダイムの転換なしに、汎用人工知能（AGI）、さらにその先へと私たちを押し進めるという証拠はない。ChatGPTを駆動するトランスフォーマーを基盤とするAIのリスクは、CRISPR遺伝子編集がもたらす可能性と比べれば、ごくわずかなものである。
AI終末論者の推論と結論には根本的な欠陥があり、その理論を確立し正当化する際の大きな飛躍がそれを裏付けている。
誰かが自転車を発明し、運動と訓練を重ねることで、短期間のうちにどんどん速くペダルをこげるようになったと想像してほしい。電動モーターと軽量な素材によって、自転車はさらに速くなる。では、その自転車を、やがて空を飛ぶまで乗り続けられると私たちは信じるだろうか。
このような推論の不条理さを見つけるのは難しくない。
しかし、これこそが現在のAI終末論者の語る筋書きそのものである。すなわち、ChatGPTのような汎用の事前学習済みトランスフォーマーを通じて、AIは百科事典的な知識を持つようになる。次にAIは飛躍してAGIになる。そして、感情的知能、意識、自己複製能力を備えた人工超知能（ASI）になる。
そして、さらにもう一つの大きな飛躍が起きる。AIは人類に背を向け、抑止力がなければ人類を絶滅させることもありうるという（オックスフォード・ユニオンの討論で示された、最近のいくつかのシナリオによれば、植物に有毒ガスを放出させる、あるいは太陽のエネルギーを枯渇させる方法を見つけるといった「SF的な」手法を用いて）。
こうした「飛躍」の一つひとつには、科学技術における画期的な進歩が必要になるが、その多くは実現が不可能と考えられ、用いられている前提の多くは論理的に正当化されていない。しかし、こうした物語は、人々の想像力を捉えてしまうおそれがある。
AI終末論者は、意図的であるか否かにかかわらず、科学的証明の義務を無視し、ブレッチリーで最近見られたように、国民と政府をパニックに陥れている。ブレッチリーで最近見られたように。推し進められている規制は、馬鹿げた「存在に関わるリスク」を防ぐことを意図したものではない。
それは、ビッグテックの利益を脅かすオープンソースのAIコミュニティを弱体化させるために設計されている。あるいは、少数の特権層に利益をもたらすため、AI開発のコストを押し上げる過剰な規制として設計されている。
皮肉なことに、「存在に関わる脅威」論は人間の主体性を無視している。チェルノブイリやチャレンジャー号爆発のような惨事の背後にあったのは、技術そのものではなく、人間の基本的な管理システムであった。チャレンジャー号爆発事故。
物理科学とは対照的に、AIの領域は主にデジタルである。AIとのやり取りには、物理、化学、生物学など、物理世界で直接実験を行うあらゆる技術に比べて、はるかに多くの人間の主体的な関与の段階や、チェックポイントや管理の機会が必要となる。
AIに関する終末論的な言説は、科学技術の進歩が社会と文明にもたらす根本的かつ超越的な恩恵を覆い隠している。それは、人々が科学を理解し活用するよう鼓舞し、動機づけることにほとんど役立っていない。
歴史には、技術が人類の進歩を促す触媒として機能してきた事例が数多くあり、破滅の予兆となったわけではない。羅針盤、書物、コンピューターといった道具は、現実的な航海と知的な航海の双方に私たちを導いてきた。
存在に関わる脅威という物語は、AIが人間の知能を「超越する」ことにかかっているが、その概念には明確な指標が欠けている。顕微鏡や計算機といった多くの発明は、すでに人間の能力を凌駕しているが、それらは恐怖ではなく、期待をもって迎えられてきた。
実際には、AIは21世紀の「RenAIssance」を切り開きつつある。元のルネサンスは啓蒙時代へとつながり、科学への合理的で基礎的なアプローチによって特徴づけられたが、この時代は私たちをエンパワーメントの時代へと導きつつある。
歴史的なルネサンスは印刷機によって可能となり、欧州とその先へと知識の急速な普及を可能にした。初期の科学は、「どのように考えるか」を知ることを通じて、この知識に構造を与えた。アイザック・ニュートンやゴットフリート・ヴィルヘルム・ライプニッツといった人物は、この合理主義を擁護し、定義づけ、第一原理に根ざした体系的な科学の土台を築いた。
何世紀にもわたり、彼らが築いた科学は、仮説を立て、核心的な考えを解きほぐし、論理と体系的な実験を通じて理論を検証することで前進してきた。現代のAIは今、この古典的な問題解決のアプローチを再構築しつつある。
データとアルゴリズムが新たな発見の時代を告げる
今日、膨大なデータセット、高度なインフラ、複雑なアルゴリズム、そして計算能力の融合は、従来の人間の論理をはるかに超え、徹底した経験主義とAIに導かれた知見を特徴とする、新たな発見の時代を告げている。
今日のAIのRenAIssanceは、「どのように」を超えて「なぜ」を掘り下げるものである。個人に知識と、現実世界の問題解決のための道具の両方を与え、実践的なアプローチへの転換を示している。AIは、生物学、ゲノム学、気候科学、自律技術などの分野において、さまざまな可能性を明らかにする。
この時代の特徴は、経験主義の復興であり、AIのデータ処理能力に後押しされ、自動化された知識の抽出、整理、推論、仮説検証を可能にするとともに、特定されたパターンから知見を提供する。
それは、科学的探究のための代替的な方法論への道を開く。例えば、極めて高いスループットでのデジタルコンテンツ生成、極めて複雑なシミュレーションによる予測、極めて大規模な戦略的最適化などを通じて、従来の第一原理に基づく手法や因果推論が対応できる規模と速度を、はるかに超えて実現する。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているか。
AI卓越性センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解する取り組みを行っている。AI導入に伴う機会、リスク、トレードオフについて、情報に基づいた対話を支援している。
信頼できる場や協働的な取り組みを通じて、センターはパートナーが共通理解を築き、AIの革新と利用に関する責任あるアプローチに向けて協力することを可能にしている。
これは、気候、がん、個別化医療といった課題に取り組むための、人類にとって前例のない現実的な機会を意味する。
現代のルネサンスは、継続的な学習と適応を促し、行動する前にすべてを理解することへの固執から、探究、理解、倫理的な応用の文化へと社会を移行させる。この考え方は、過去の経験主義的な方法論と共鳴し、知識を得て問題を解決するための謙虚なアプローチを提唱している。
人類のために火を盗んだプロメテウスのように、AIは私たちの文明を前進させる強力でありながら、まだ十分に理解されていない道具として登場した。私たちには、この道具を手にし、用いるための謙虚さ、勇気、そして自由が必要である。
