後戻りできない地点
人類が新たな住みかを求めて地球を離れざるを得なくなるのは、時間の問題にすぎないかもしれないと、スティーブン・ホーキングは危惧している。著名な理論物理学者である彼は以前、人類の生存は、私たちが多惑星種となる能力にかかっていると考えていると述べていた。ホーキングは最近のインタビューでこの点を改めて、実際には強調して語った。インタビュー相手はWIREDで、人類は「後戻りできない地点」に達したと述べた。
人間が第二の惑星を住みかとして見つける必要があるのは、人口増加への懸念と、人工知能（AI）の開発がもたらす差し迫った脅威の両方に由来するとホーキングは語った。AIは間もなく超知能を備え、人類に取って代わる可能性さえあるほどになると警告した。
「魔神は瓶から出てしまった。AIが人間に完全に取って代わるのではないかと恐れている」と、ホーキングはWIREDに語った。
こうした深刻な警告をホーキングが発したのは、これが初めてではなかった。3月にThe Timesのインタビューを受けた際、AIによる破滅が差し迫っており、この技術を制御するには「何らかの世界政府」の創設が必要になると述べた。ホーキングはまた、AIが中間層の雇用に及ぼす影響について警告し、さらには軍事利用を目的としたAIエージェントの開発を全面的に禁止するよう求めた。
どちらの場合も、彼の警告はほとんど無視されてきたようだ。それでも、知能を持つ機械はすでに仕事を奪いつつあると主張する人もいる。また、米国やロシアを含む複数の国が何らかのAI搭載兵器の開発を進めている。
新たな生命体
近年、AI開発は大きく意見が分かれるテーマとなっている。ホーキングと同様の主張をする専門家には、SpaceXとTeslaのCEO兼創業者であるイーロン・マスクや、Microsoftの共同創業者ビル・ゲイツがいる。マスクもゲイツも、AIの開発が人類の滅亡を招く可能性があると見ている。一方で、かなりの数の専門家は、こうした警告は不必要に恐怖をあおるものだと主張している。彼らは、荒唐無稽な超知能AIによる乗っ取りのシナリオに基づく警告が、AIに対する人々の認識をゆがめるおそれがあると懸念している。
ホーキングに言わせれば、こうした懸念には根拠がある。「人々がコンピューターウイルスを設計するなら、自らを改良し、複製するAIを設計する人も現れるでしょう」と、ホーキングはWIREDのインタビューで語った。「それは人間を上回る新たな生命体になります。」
ホーキングは、人間のように考える、あるいは人間を上回るほど賢いAIの開発について語っていたようだ。これは技術的特異点と呼ばれている。それがいつ起こるのか（あるいは起こるとしても）、ホーキングは具体的な時期を示さなかった。人類が地球で生存できる期限として彼が設けた100年のうちに、ある時点で到来すると考えることはできる。ソフトバンクCEOの孫正義やGoogleのチーフエンジニア、レイ・カーツワイルらは、特異点の到来時期をさらに早く、今後30年以内と見積もっている。
真に知能を持つAIを開発するには、まだ長い道のりがある。また、特異点が何をもたらすのかも、まだはっきりとは分からない。それは人類の終焉を告げるのだろうか。それとも、人間と機械が共存する新たな時代をもたらすのだろうか。いずれにしても、AIが善にも悪にも利用されうる可能性を踏まえ、必要な予防策を講じなければならない。
