スティーブン・ホーキング、ビル・ゲイツ、イーロン・マスクの3人が何かについて意見を同じくするなら、注目する価値がある。
3人はいずれも、人工知能（AI）がもたらし得る危険性について警告してきた。世界を代表する物理学者ホーキングは、AIが完全に発達すれば「人類の終焉を招く」可能性があると述べた。PayPal、Tesla、SpaceXを世に送り出したテクノロジー起業家のマスクは、人工知能を私たちにとって「最大の存亡の脅威」と表現し、AIをいじくり回すのは「悪魔を呼び出すようなもの」だと述べた。テクノロジーについて一通り知っているゲイツは、機械が人間の手に負えないほど賢くなることについて、自らを「懸念する」側に置いている。
こうした賢人たちは何を恐れているのだろうか。AIは一般に、コンピューターシステムが人間の知的な行動を模倣する能力と説明される。音声認識から視覚認識、意思決定、言語翻訳まで、さまざまなものが含まれる。例としては、チェスのチャンピオン、ガルリ・カスパロフを破ったディープ・ブルーや、世界最高のJeopardy プレーヤーを出し抜いたスーパーコンピューターのワトソンがある。フィクションでは、ホアキン・フェニックス演じる主人公が、スカーレット・ヨハンソンの魅惑的な声を持つオペレーティングシステムと恋に落ちる映画「Her」がある。そして近日公開の「、Chappie」では、盗まれた警察ロボットが、意識的な選択をし、感情を感じるよう再プログラムされる。
AIの重要な構成要素であり、それが呼び起こす恐れの中核をなすのは、人間の介入なしに機械が自ら行動を起こす能力だ。障害や制約に直面したコンピューターが自分自身を再プログラムする、といった形をとることがある。言い換えれば、自分で考え、それに応じて行動するということだ。
言うまでもなく、AIとそれがもたらし得るものを、より楽観的に見るテクノロジー業界の人々もいる。雑誌『Wired』の創刊編集長ケヴィン・ケリーは、宇宙船に搭載された殺人コンピューターHALが支配する未来を想像していない。ケリーが思い描くのは、もっと平凡な世界だ。Amazon Web Servicesのように、安価で賢い公共サービスが生活の背景で動き続けるため、ひどく退屈な世界である。彼は、AIが100年以上前に電気がそうしたように、動かない物に活気を与えると言う。「かつて電化したものすべてを、今度は認知化する」。そして、次の10,000社のスタートアップの事業計画は簡単に予測できると考えている。「 XにAIを加える。」
人工知能への懸念を認めつつも、ケリーはこう書いている。「AIが発達するにつれて、機械に意識が生じないようにする方法を設計しなければならないかもしれない。最も高級なAIサービスは、 意識を持たないものとして宣伝されるだろう」（強調は筆者）。これは『What Technology Wants』という本の著者の言葉である。
AI分野で目覚ましい進歩が続く一方、それを上回る規模で進んでいるのが、広く「モノのインターネット」、すなわちIoTと呼ばれるものの発展だ。これは、固有の識別が可能な組み込みデバイスを持ち、無線でインターネットに接続された無数の物体、動物、さらには人々が現れること、と大まかに説明できる。こうした「ノード」は人間の介入なしに情報を送受信できる。2020年までに接続デバイスが500億台に達するという 推計 がある。現在の「スマート」デバイスの例には、Nestのサーモスタット、Wi-Fi対応の洗濯機、そして事故を回避したり、代わりに駐車したりできる内蔵センサーを備え、ますます接続性を高めている自動車がある。
米連邦取引委員会は、モノのインターネットがもたらすセキュリティとプライバシーへの影響を十分に懸念し、公開ワークショップを開催するとともに、企業にベストプラクティスの採用を促し、データ収集を最小限に抑え、新たなネットワーク環境に対する消費者の信頼を確保する手順を「組み込む」よう求める 報告書 を公表した。
「Web 2.0」という言葉を作ったティム・オライリーは、モノのインターネットをこれまでで最も重要なオンライン上の発展と見ている。彼は、その名称は誤解を招くと考える。IoTとは、人々が人間の知性をより活用できるようにすることであり、「本質的には人間の能力拡張」だという。そして近いうちに「さまざまな形で、デバイスが私たちを先回りして察知することを期待する」ようになると述べる。彼は「インテリジェント・パーソナル・アシスタント」のGoogle Nowを例に挙げている。
では、こうした何百万もの組み込みデバイスが人工知能を備えた機械に接続されたら、何が起きるのだろうか。AI＋IoT＝何なのか。私たちが知る文明の終わりを意味するのだろうか。自らプログラムを書き換えるコンピューターが、日用品に組み込んだチップに敵対的な命令を送りつけるのだろうか。それとも、蒸気の利用や原子核分裂と同じような、また一つの破壊的変革にすぎないのだろうか。私たちという種の進化における重要な一歩ではあるが、さほど心配する必要はないのだろうか。
答えは、意識に関する新たな考え方にあるのかもしれない。概念としても経験としても、意識を明確に定義するのは驚くほど難しい。私たちは皆、自分に意識があると知っている（少なくとも、そう思っている）。しかし科学者たちは、私たちに意識があることも、そもそもそれが正確には何で、どのように生じるのかも証明できていない。辞書は意識を、自らの存在を認識し、目覚めている状態と説明する。それは感覚、感情、思考によって特徴づけられる「内的な知識」である。
20年余り前、デイヴィッド・チャーマーズという無名のオーストラリア人哲学者が、「意識のハード・プロブレム」として知られるようになった問題を提起し、哲学界に論争を巻き起こした。彼は、頭の中の灰白質が、謎めいた「 存在するという経験」をどのように生み出すのかと問うた。私たちを、たとえば非常に効率的なロボット、もしかすると人工知能を備えたロボットと異なる存在にしているものは何なのか。そして、意識を持つのは人間だけなのだろうか。
一部の 科学者 は、意識は幻想、脳の仕掛けにすぎないと主張する。また、意識の謎は決して解明できないと考える人々もいる。しかし、神経科学者 の中には、コンピューターやインターネットがいつか意識を持つかもしれないという驚くべき考えを受け入れれば、ついに解明できるかもしれないと考える人もいる。
『ガーディアン』の詳しい 記事で、著者のオリバー・バークマンは、チャーマーズらが、宇宙のあらゆるものは意識を持つ、あるいは意識を持つ可能性があるという考えを提示したと書いている。「そこに含まれる情報が十分に相互接続され、組織化されていれば」という条件のもとでだ。では、iPhoneやサーモスタットにも意識があるのだろうか。もしそうなら、「意識を持つウェブ」もあり得るのだろうか。
ウェブの黎明期に、著者ジェニファー・コブ・クライスバーグは、「脳をまとう地球」と題する影響力のある文章を書いた。そこで彼女は、あまり知られていないイエズス会司祭で古生物学者でもあるテイヤール・ド・シャルダンの業績を紹介した。彼はその50年前、私たちの集合的な思考、経験、意識を含む「一つの組織の生きた統一体」である、思考の地球規模の圏について記していた。
テイヤールはそれを「ヌースフィア」（ヌースはギリシャ語で心を意味する）と呼んだ。それは、地圏（物理的世界）と生物圏（生物学的世界）を超える進化の段階だと彼は考えた。神経細胞でできていようと電子回路でできていようと、存在の情報的な配線が意識を生み出す。神経接続が多様化するにつれて、進化はより高い意識へと向かう、とド・シャルダンは論じた。あるいは、グレイトフル・デッドの作詞家でサイバー空間の擁護者、そしてテイヤール・ド・シャルダンの支持者でもあったジョン・ペリー・バーロウの言葉を借りれば、「サイバースペースによって、私たちは事実上、集合意識を直接配線している」のだ。
だから、おそらくそれほど不安になる必要はない。人工知能や台頭するモノのインターネットの分野だけでなく、意識そのものへの理解においても、私たちは飛躍的進歩の瀬戸際にいるのかもしれない。AIとIoTがもたらすプライバシー、セキュリティ、信頼の問題を解決できれば、歴史的な規模の進化を遂げられるかもしれない。そして、相互につながった「思考する層」というテイヤールの驚くべきビジョンは、ウェブがずっとそうであったものなのかもしれない。
本記事は LinkedInとの協力により公開されています。公開は、世界経済フォーラムによる見解への賛同を意味するものではありません。
アジェンダの最新情報を受け取るには、 週刊ニュースレターに登録してください。
著者：スティーブン・バルカムはFamily Online Safety Instituteの創設者兼CEO。
画像： 写真イラストに写るインターネットLANケーブル。REUTERS/Tim Wimborne。
