著名な理論物理学者、 スティーブン・ホーキング氏が、人工知能の向上を目指す私たちの探求が、いつか人間に取って代わる思考する機械につながるのかどうかという議論を再燃させた。
英国の科学者は、BBCとの幅広いテーマにわたるインタビューでこの主張を述べた。ホーキング氏は運動ニューロン疾患である筋萎縮性側索硬化症（ALS）を患っており、インタビューでは、意思疎通を助けるために使用している新技術にも話題が及んだ。
この技術は、過去の単語使用傾向をモデル化して次に使う語を予測するもので、多くのスマートフォンで利用できる予測入力に似ている。
しかしホーキング教授は、私たちを凌駕するかもしれない機械の開発への懸念にも言及した。
「人間が人工知能を開発すれば、それは独自に進化を始め、ますます速いペースで自己を再設計するだろう」と 報じられたところによれば BBCに語った。
「完全な人工知能の開発は、人類の終焉を意味する可能性がある。」
思考する機械は人間に取って代わるのか？
ホーキング教授のように知名度が高く、能力と信頼性を備えた人物が、コンピューターが人間に取って代わり（いつか人類を終わらせ）る問題を提起したことを、私は評価したい。そして、この問題には簡潔な返答が必要だ。
機械知能の問題は、英国の暗号解読者でコンピューター科学の父でもある アラン・チューリング が 1950年に「機械は考えることができるか」と問うた時まで、少なくともさかのぼる。
こうした知能を持つ機械が人間に取って代わるという問題は、さまざまな大衆メディアや文化の中で、形を変えながら論じられてきた。映画の 『コロッサス』 （1970年）や 『ウエストワールド』 （1973年）、さらに近年の例では、1984年の映画 『ターミネーター』 や続編に登場するスカイネットを思い浮かべればよい。ほんの数例を挙げたにすぎない。
これらすべてに共通するのは、責任を機械に委ねる問題である。 技術的特異点 （あるいは機械の超知能）という概念は、少なくとも 人工知能の先駆者である レイ・ソロモノフ にまでさかのぼる。彼は 1967年に、次のように警告した。
近い将来に非常に知能の高い機械が現れる見込みはないものの、それがもたらす危険は極めて重大であり、問題は非常に難しい。問題が生じる前に、多くの知的な人々がこれらの問題について十分に考えるのが望ましい。人工知能の実現は突然起こるだろうというのが私の見解である。研究の進展のある時点までは、実用的な水準の機械知能について何ら経験がない。それから1か月ほど後には、非常に知能の高い機械が存在し、経験不足に伴うあらゆる問題と危険に直面することになる。
1967年にホーキングの警告に通じるこの見解を示しただけでなく、 1985 年、ソロモノフは技術的特異点がいつ起こるかを示そうとし、社会への影響を考察した。
私は、より高速で知能の高い機械がもたらす結果について、 ソロモノフや ホーキング らと同じ懸念を抱いている。しかし、米国の作家、コンピューター科学者、発明家である レイ・カーツワイルをはじめ、恩恵に目を向ける人々も多い。
誰が正しかったと判明するにせよ（その間に別の危険によって地球が破壊されない限り）、 ソロモノフ は 1967 年に、この問題について十分に考えるべきだと提唱しており、先見の明があったと思う。
すでに人間に取って代わる機械
その一方で、責任がますます機械に委ねられるようになっている。たとえば、携帯型電卓、定型的な数学計算、全地球測位システム（GPS）などがある。
また、航空管制システム、誘導ミサイル、鉱山現場の無人トラック、あるいは最近公道で試験走行を行った 自動運転車 などもある。
人間が機械に責任を委ねる理由には、時間、コスト、精度の改善がある。しかし、たとえば 無人運転車による損害など、悪夢のような事態が起きた場合には、法的責任、保険、責任の帰属が問題になる。
コンピューターの 知能 が人間を超えると、コンピューターが人間に取って代わる可能性があると言われている。しかし、責任を委ねることには、ほかにもリスクがある。
機械の誤り
1987年の株式市場の暴落は、主に コンピューター取引が原因だったと主張する人もいる。
コンピューターの誤作動が原因で送電網が停止したこともある。もっと身近な例では、私の使う煩わしいスペルチェッカーが、書いた文章を時折「修正」して、侮辱的とも受け取られかねない表現に変えてしまう。コンピューターの誤りだろうか。
ハードウェアやソフトウェアの不具合は見つけにくいことがあるが、大規模システムに甚大な被害をもたらし得る。ハッカーや悪意がなくてもそうであり、それらが加わればなおさらだ。では、大きな責任を担う機械が人間より優れた仕事をすると、私たちはどれほど本当に信頼できるのだろうか。
コンピューターが意識的に制御を奪わなくても、コンピューターシステムが制御不能になるさまざまな経路を想像できる。システムの処理速度が非常に速く、構成部品も極めて小さければ、対処が難しく、電源を切ることさえ難しいかもしれない。
私は、 ソロモノフの 1967 年の論文に通じる趣旨で、脚本家と人工知能研究者が協力してそうしたシナリオを描き、世論の議論をさらに促すことを望む。
考えられるシナリオを一つ挙げると、音声の一部が誤ってテキストに変換され、質の悪い自動翻訳でさらに誤りが重なり、機械への指示が微妙に改変されて、何らかの混乱を招くかもしれない。
おそらく関連する別の難題は、人間の脳に関するビッグデータを、より高速な統計分析や機械学習で解析することから生じるかもしれない。（そして、あえて言う人もいるだろうが、私たち人間は、善良さや道徳、正しさのすべてを体現しているのだろうか。）
ソロモノフが 1967年に述べたように、こうした公開の議論が必要だ。そして、懸かっているものの大きさを考えれば、今すぐにでも必要だと思う。
共同掲載： The Conversation
著者：デビッド・ダウは、モナシュ大学クレイトン情報技術学部の准教授。
画像：2010年6月22日、シンガポールで開催されたロボカップ大会で、競技参加者の一人がサッカーをするロボットをカメラに向けて掲げている。REUTERS/Vivek Prakash。
