彼は世界で最も聡明な人物の一人であり、映画スターでもある。そして今度は、 Redditの「Ask Me Anything」 （AMA）シリーズの参加者の一人にもなった。物理学者のスティーブン・ホーキングは今週、このAMAセッションで自身の回答を寄せた。見逃しましたか。以下に質問と回答をまとめました。
Q：人工知能は邪悪なのか？
A．AIにおける真のリスクは悪意ではなく、能力である。超知能AIは自らの目標の達成に極めて長けているため、その目標が人類の目標と一致しなければ、深刻な事態に陥る。あなたはおそらく、悪意からアリを踏みつける邪悪なアリ嫌いではないだろう。しかし、水力発電による再生可能エネルギー事業を担当していて、水没する地域にアリ塚があるとすれば、アリにとっては気の毒なことになる。人類をそのアリの立場に置くことはやめよう。学生には、AIをどう作るかだけでなく、その有益な利用をどう確保するかについても考えるよう促してほしい。
Q：AIの脅威には今まさに備えるべきか、それとも遠い将来の話として考えればよいのか？
A：後者である。人間並み以上のAIの構築にどれだけ時間がかかるかについて、AI研究者の間で合意はない。そのため、それがあなたの生涯の間に実現すると、あるいは実現しないと、確実に知っていると主張する人は誰も信用しないでほしい。いずれ実現する時が来たとき、それは人類にとって史上最良あるいは最悪の出来事となる可能性が高く、だからこそ正しく実現することには計り知れない価値がある。AIの目標を、純粋で方向性のない人工知能の創出から、有益な知能の創出へと転換すべきである。これをどう実現するかを解明するには数十年かかるかもしれないため、最初の強いAIが起動される前夜になってからではなく、今日からこの研究を始めよう。
Q：人工知能は、その創造主である人間よりも「賢く」なり得るのか？
A：何かが祖先よりも高い知能を獲得することは明らかに可能である。人類は類人猿のような祖先よりも賢くなるよう進化したし、アインシュタインは両親より賢かった。あなたが尋ねている境界線は、AIが設計においても人間より優れるようになり、人間の助けなしに自己を再帰的に改良できるようになる地点である。これが起これば、最終的に、機械の知能が私たちの知能を、私たちの知能がカタツムリの知能を上回る以上に凌駕するような知能爆発に直面するかもしれない。
Q：AIは人間と同じ基本的な欲求、すなわち生存と繁殖の欲求を持つのか？
A：進化によってではなく設計されたAIは、原理的には、どのような欲求や目標も持ちうる。しかし、スティーブ・オモハンドロが強調しているように、将来の極めて知能の高いAIは、どのような目標を持つにせよ、その達成に向けた一歩として、生存し、より多くの資源を獲得しようとする欲求を生み出す可能性が高い。生存しより多くの資源を持つことで、その別の目標を達成する可能性が高まるからだ。これは、資源を奪われる人間にとって問題を引き起こしうる。
Q：高度な自動化によって、世界は「技術的失業」に至るのか？
A：機械が私たちに必要なすべてを生産するなら、その結果は分配の仕方次第となる。機械が生み出した富が分かち合われれば、誰もが贅沢な余暇の生活を楽しめる。一方、機械の所有者が富の再分配に反対するロビー活動に成功すれば、ほとんどの人々が惨めなほど貧しくなりかねない。これまでのところ、テクノロジーが不平等をますます拡大させており、傾向は後者の選択肢に向かっているようだ。
スティーブン・ホーキングとのAMAの全文のほか、読者からの数千件に及ぶ追加コメントも、 Redditで読むことができます。
お読みになりましたか？
スティーブン・ホーキング：「私たちは皆、時間旅行者だ」
著者：スティーブン・ホーキング、理論物理学者、宇宙論学者、作家、ケンブリッジ大学理論宇宙論センター研究部長。報告：世界経済フォーラム メディアリレーションズ、メディアリード（米国・産業担当）のピーター・ヴァンハム
写真：理論物理学者のスティーブン・ホーキングが、2008年5月11日にケープタウンで開かれた公開会合で講演している。REUTERS/Mike Hutchings
