人工知能（AI）分野を代表する企業や研究機関の多くが連携し、「AIから得られる恩恵に焦点を当てるとともに、潜在的な落とし穴を避ける」研究を求めています。AI研究では、人間が現在担っている作業をこなせる技術を開発する新たな方法が引き続き模索されていますが、批判や懸念もあります。
有名な英国の理論物理学者 スティーブン・ホーキング が皮肉を言うかどうかは分かりませんが、最近、彼が自分の発話を制御する、より高性能な予測ソフトウェアの登場を歓迎したのは、いささか皮肉なことでした。そして、彼は 警告しました 。
完全な人工知能の開発は、人類の終焉を招く可能性がある。
もちろん、ホーキングだけがこの見方をしているわけではありません。連続起業家で技術者のイーロン・マスクも、昨年、 同じく警告し 、次のように述べました。
[…] 私たちは人工知能について、非常に慎重になるべきです。最大の存亡の脅威は何かと推測するなら、おそらくそれでしょう。
二人とも、何世紀にもわたって人類を悩ませてきた、深く心理的な恐怖に触れる問題を取り上げています。私たちが生み出したものが、いずれ私たち自身の破滅を招いたらどうなるのでしょうか。この恐怖は、メアリー・シェリーの『フランケンシュタイン』のような物語に描かれています。
AIに関する公開書簡
こうした懸念を受け、 公開書簡 に、産業界と学術界の主要なAI研究者（ホーキングとマスクを含む）が署名しました。
署名者には、 人工知能振興協会の会長、AIスタートアップ企業 DeepMind と Vicariousの創業者、そしてGoogle、Microsoft、スタンフォード大学などの著名な研究者が名を連ねています。
全面的な情報開示のために付け加えると、私も初期の署名者の一人であり、このリストへの賛同は日ごとに増え続けています。
公開書簡は、AI研究が着実に進展しており、社会への影響が今後拡大する可能性が高いという、幅広い合意がすでにあると主張しています。
そのため、書簡は、能力がますます高まるAIシステムが、（振る舞いの面で）堅牢であり、人間にとって有益であることを保証する方法について、研究を始める必要があると結論づけています。たとえば、職を失う人々も含め、社会全体の繁栄を高めるAIシステムをどのように構築するかを見極める必要があります。
書簡には、人工知能の開発に先立って取り組むべき、 学際的な研究の優先課題 をまとめた文書へのリンクも含まれています。これには、経済的利益を最適化するなどの短期的な優先課題や、AIシステムの形式的な特性を検証できるようにするなどの長期的な優先課題があります。
AIが社会にもたらす脅威
ハリウッドは、AIが社会にもたらしうる脅威について、数々の印象的なビジョンを描いてきました。アーサー・C・クラークの 『2001年宇宙の旅』 から 『ロボコップ』 、 『ターミネーター』 、そして 『Her／世界でひとつの彼女』 や 『トランセンデンス』などの近年の映画に至るまで、いずれもAIによって変貌した未来をディストピアとして描いています。
私の見解（そして多くの同僚も共有する見解）では、社会の未来を脅かしかねないAIの実現は、まだ先のことになりそうです。
AI研究者たちは、ここ30年ないし40年にわたり、実現にはさらに30年か40年かかると予測してきました。そして今日、彼らの大半に尋ねても、私と同じく、さらに30年か40年はかかるだろうと答えるでしょう。
コンピューターを知的に振る舞わせることは、科学的に解くのが難しい難題です。人間の脳は、私たちが知る最も複雑なシステムであり、その複雑さは桁違いです。人間が示すような知能を再現するには、AIの大幅な進歩が必要になるでしょう。
人間の脳は、わずか20ワットの電力ですべての驚くべき働きを実現します。これは驚くべき工学的成果です。
社会が直面するその他のリスク
気候変動や現在進行中の世界金融危機など、人類が直面する、より差し迫った危険もあります。これらには早急な対応が必要です。
オックスフォード大学のFuture of Humanity Institute には、AI以外にも社会を脅かす 長い脅威のリスト があります。たとえば、次のようなものです。
ナノテクノロジー
バイオテクノロジー
資源の枯渇
人口過剰。
だからといって、近い将来に対応が必要なAIの側面がないというわけではありません。
AIの未来をめぐる議論
殺傷ロボットを止めるキャンペーン は、完全自律型兵器を禁止すべきかどうかをめぐる議論を前進させています。
私は今月後半、米国テキサス州オースティンで開催される、人工知能振興協会の次回 年次会議 で、このテーマに関する討論会を企画しています。
Steve Gooseヒューマン・ライツ・ウォッチの武器部門ディレクターが禁止を支持する一方、 Ron Arkinアメリカのロボット工学者でロボット倫理学者は、禁止に反対する立場を主張します。
より早急な対応が必要なもう一つの問題は、AIが仕事のあり方に及ぼす影響です。自動化が進み、働き手の必要数が減るなかで、社会はどのように適応するのでしょうか。
これをうまく実現できれば、生活から多くの退屈で単調な作業をなくせるかもしれません。うまくいかなければ、フランスの経済学者 トマ・ピケティ が記録した 格差の拡大 は、さらに深刻になるでしょう。
これらすべての問題などを、米国でAAAI人工知能会議の一環として開催される第1回 AIと倫理に関する国際ワークショップでも議論します。
潜在的な落とし穴を避けるためだけでなく、AIが私たち全員にとって世界をより良くする未来を築くためにも、今、こうした議論を始めることが重要です。
本記事は、 The Conversationとの協力により掲載されています。掲載は、世界経済フォーラムが本記事の見解を支持することを意味するものではありません。
Forum:Agendaの最新情報を受け取るには、 週刊ニュースレターにご登録ください。
著者：Toby Walshは、NICTAの最適化研究グループの教授兼研究グループリーダーです。
画像：2009年1月8日、東京の早稲田大学で、Twendy-Oneがトーストを配膳する様子を実演。同ロボットは、高齢者や障害のある人の家庭での生活を支援するために設計された。REUTERS/Issei Kato。
