1月、英米のコンピューター科学者 スチュアート・ラッセル は、 公開書簡 を起草し、最初の署名者となった。書簡は、人工知能をただ強力にするという目標を超えて研究者が目を向けるよう呼びかけている。「能力が高まるAIシステムが堅牢で有益なものとなるよう、研究の拡充を推奨する」と書簡は述べる。「私たちのAIシステムは、私たちが望むことを実行しなければならない」。その後、Google、Facebook、Microsoftなど業界の中心企業に所属する著名な人工知能研究者に加え、世界各地の一流コンピューター科学者、物理学者、哲学者を含む数千人がこの書簡に署名した。3月末までに、書簡の37番目の署名者である発明家・起業家のイーロン・マスクが拠出した資金を得て、約300の研究グループが「人工知能を有益なものに保つ」ための新たな研究に取り組む申請を行った。
53歳のラッセルは、カリフォルニア大学バークレー校のコンピューター科学教授で、同校のインテリジェント・システム・センターの創設者でもある。彼は長年、思考する機械の力と危険性について考え続けてきた。200本を超える論文の著者であり、この分野の標準的な教科書である 『Artificial Intelligence: A Modern Approach』 （Googleの研究部門責任者ピーター・ノーヴィグとの共著）も執筆している。しかし、人工知能の進歩がますます急速になるにつれ、ラッセルが以前から抱いていた懸念は、いっそう切迫したものとなっている。
彼によれば、近年、人工知能は大きな進歩を遂げており、その一因は 神経科学に着想を得た学習アルゴリズムの力にある。これらはFacebookの顔認識ソフトウェア、スマートフォンの音声アシスタント、Googleの自動運転車に用いられている。 最近 Nature誌で報じられた衝撃的な成果では、人工ニューロンを模したネットワークが、画面とスコアを上げるという目標を表すデータだけを与えられ、エイリアン、弾丸、左、右、上、下に関する事前知識は一切与えられないまま、わずか数時間で人間を上回る腕前でアタリのビデオゲームをプレイできるようになった。「生まれたばかりの赤ちゃんがそんなことをしたら、取りつかれていると思うでしょう」とラッセルは語った。
Quanta Magazine は、テキサス州サンアントニオで開かれた米国物理学会の2015年3月会合で、朝食の席でラッセルに話を聞いた。彼は人工知能の未来について立ち見が出る講演を行うため、24時間にも満たない滞在で立ち寄っていた。この編集・短縮版のインタビューで、ラッセルは知能そのものの本質と、それを機械で安全に近似するための計り知れない課題について語る。
記事の続きは、 Quanta Magazineをご覧ください。
本記事は、 Quantaとの協力により掲載されています。掲載は、世界経済フォーラムが見解を支持することを意味しません。
Agendaの最新情報を受け取るには、 週刊ニュースレターにご登録ください。
著者：スチュアート・ラッセルは、カリフォルニア大学バークレー校のコンピューター科学教授であり、工学分野のマイケル・H・スミスおよびロトフィ・A・ザデー講座の教授です。
画像：ホンダが開発した人型ロボットASIMOが、ヨハネスブルグのナスレックで開催されたヨハネスブルグ国際モーターショーで来場者にお茶を出している。REUTERS/Siphiwe Sibeko
