『ターミネーター』は私たちを怖がらせるために作られ、『ウォーリー』は私たちを泣かせるために作られた。ロボットは映画で見るような恐ろしいことや胸を打つことはできないが、それでも疑問は残る。もしできるとしたら？
確かに、現在の技術は、そのようなことを実現できるほど高度では到底ない。それでも人々は問い続けている。こうした議論の核心にあるのは、機械は意識を持つようになり得るのかという問いだ。機械が魂を育むこと、あるいは魂を持つようプログラムされることさえあり得るのだろうか。少なくとも、アルゴリズムは何か魂に似たものを持ち得るのだろうか？
こうした問いへの答えは、これらの事柄をどう定義するかに全面的に左右される。人工知能が学術研究の対象として登場してから70年がたった今も、私たちは満足のいく定義を見つけられていない。
たとえば、最近掲載された記事をBBCで見てみよう。この記事は、魂を持つ人工知能という考えに取り組もうとした。著者らは、不滅の魂を持つとはどういうことかを定義するにあたり、議論をほぼ即座に神学の領域から遠ざけた。もちろん、それで問題はない。空の上にいる古いローブ姿の男が手を伸ばし、コルタナに命を吹き込んだとは考えにくいからだ。しかし、それでは中心的な問いへの答えにならない。人工知能は、いつか単なる思考のない道具以上のものになり得るのだろうか？
そのBBCの記事は、魂があるかのように振る舞うAIシステムをどう捉えるかは、見る人次第だという前提を示した。宗教や精神世界を信じる人々にとって、高度に発達したアルゴリズムは魂を備えているように見えるかもしれない。そうした人々は、AIシステムの知性、感情表現、行動、そしておそらく神への信仰さえも、内面にある何かの表れとみなし、それを魂と定義できるものとして扱うだろう。
その結果、人工知能を何らかの形で備えた機械は、誰に尋ねるかによって、存在としても研究道具としても捉えられ得る。多くの事柄と同じく、機械に意識を持たせるものは何かという議論の大部分は、私たちが自分自身の何をアルゴリズムに投影するかにかかっている。
「私はコンピューターをプログラムすることより、小さな原初的存在を育むことに関心があります」とナンシー・フルダは、ブリガム・ヤング大学のコンピューター科学者としてFuturismに語った。「パターンの発見や、独自の振る舞いが現れることに惹かれて、私はコンピューター科学の道に進みました。そして、それが今もこの分野にいる理由です」
フルダはAIアルゴリズムを訓練し、文脈に応じた言語を理解させてきた。また、ロボットの心の理論の構築にも取り組んでいる。これは、人間（および一部の動物）の心理学における原理を応用したもので、他者をそれぞれ独自の思考や意図を持つ存在として認識できるようにするものだ。ただし、ロボット向けの話だ。
「コンピューターが神によって創られた魂を宿せるかどうかについては、あえて推測しません」とフルダは付け加えた。
解決すべき大きな問題は二つある。第一は意味論上の問題だ。意識がある、あるいは感覚を持つとは本当はどういうことなのか、魂や魂の機能を持つとはどういう意味なのかを定義するのは非常に難しい。BBCの記事が述べているとおりだ。
第二の問題は技術の進歩に関するものだ。人工的な感覚を生み出すために必要となる技術と比べれば――それがどのような姿をしているか、あるいは私たちがどう定義するかにかかわらず――最先端の技術者でさえ、洞窟に集まり、棒をこすり合わせて火を起こし、マンモスの肉を焼いているような段階にある。
昨年のパネル討論で、生物学者でエンジニアのクリストフ・コッホは、認知科学者のデイヴィッド・チャーマーズと意識があるとはどういうことかをめぐって激論を交わした。議論は、機械やゾンビ（人間と見分けのつかない振る舞いをするが、内面に心を持たない存在と定義される）をめぐる思弁的な思考実験の間を行き来した。科学的証拠によって確実に証明できる事柄から、しばしば逸れていった。チャーマーズは、現在の機械よりも進んだ機械であれば、意識を持つ可能性があると主張したが、コッホは神経科学と人工知能技術の現状を根拠に反論した。
神経科学の文献では、意識は、感覚や世界の捉え方、そして私たちの行動を取り込んだ、脳が構築する物語だと考えられている。しかし、この定義の範囲内でさえ、神経科学者たちは、なぜ私たちに意識があるのか、また神経活動という観点からそれをどう定義するのが最善かを定めるのに苦労している。宗教を信じる人々にとって、この意識は魂を持つことで授けられるものと同じなのだろうか？そして、ここでは技術の問題にさえ踏み込めていない。「AIの関係者は、魂と心、あるいはもっと具体的に言えば、複雑な行動パターンを生み出す能力とを、日常的に混同しています」と
オンドジェイ・ベランは、パルドゥビツェ大学の哲学者・倫理学者としてFuturismに語った。AIの関係者は、魂と心を日常的に混同している
オンドジェイ・ベラン
「私たちの文化における魂という概念の役割は、誰かの魂が高潔だ、あるいは堕落していると言う場面と結びついています」とベランは付け加えた。つまり、そこには価値判断が伴う。「私の考えでは必要なのは、AIの科学や工学における飛躍ではなく、概念全般の転換です。人々が互いに関わる際に使う言葉に対する感受性と想像力の転換です」
ベランは、人工知能が生成した芸術作品を例に挙げた。こうした作品は、しばしば娯楽として紹介される。しかし、アルゴリズムが作ったものを「芸術」と呼ぶとき、アルゴリズムが単に何らかの画像や旋律を生成しただけなのか、それとも観客だけでなく、
それ自体にとっても意味のある何かを創り出したのかを、私たちは考慮しないことが多い。もちろん、人間が創作した芸術も、後者に届かないことはよくある。「人工知能にとって何かが重要性を持つとは、そもそもどういうことなのか、まったく明確ではありません」とベランは付け加えた。機械が入力と出力を無思慮に処理するのではなく、内面で思いを巡らせられるようになったとき、感覚を持つに至ったと言えるのだろうか。それとも、社会全体が機械を意識あるものとみなすには、内面にある
何かが本当に必要なのだろうか？ここでも、問いへの答えは、私たちがどう問いに臨み、どのような定義にたどり着くかによって曖昧になる。「魂は物質のようなものではないと私は考えています」と、AIを進化論的な観点から定義しようとしてきたチェコ科学アカデミーの哲学者、ウラジーミル・ハヴリークは
語った。彼は進化論的な観点からFuturismにこう続けた。「時間の流れのなかで絶えず形づくられ、人間を表す、一貫したアイデンティティのようなものだと言えるでしょう」
ハヴリークは、魂の神学的な側面を気にかけるよりも、時の試練に耐える内面的な性格のようなものとして魂を定義できると示唆した。その意味で、機械や人工知能システムが性格を発達させられない理由はないと彼は考える。すべてはアルゴリズムそのもの次第だ。ハヴリークの見方では、性格は意識から生まれる。そのため、そうした性格を発達させるAIシステムには、過去の結果と将来の見通しを比べながら判断を下し、その判断を振り返れるほど高度な技術が必要になる。人間が世界について学ぶのとよく似ている。
しかし、魂を持つ機械や意識ある機械を作れるかという問いが重要なのは、そうした区別を大切だと考える人にとってだけだ。人工知能の本質は道具である。境界線に迫り、意識ある存在のように見えるほど高度なアルゴリズムも、意識ある存在を再現したものであり、思考し自己を認識する新たな生物種ではない。
「私のAIへのアプローチは、基本的に実用主義的です」とピーター・バンプルーは、フェデレーション大学のエンジニアとしてFuturismに語った。「AIシステムに本物の知性や感情、共感があるかどうかは、私にとって重要ではありません。大切なのは、人間社会にとって有益となるように振る舞うことだけです」
私にとって、AIシステムに本物の知性があるかどうかは重要ではありません……大切なのは、人間社会にとって有益となるように振る舞うことだけです。
ピーター・バンプルー
バンプルーにとって、機械が魂を持てるかどうかという問いに意味があるのは、魂という概念を信じる場合に限られる。彼は信じていないため、その問いに意味はない。いつか機械が説得力のある感情反応を再現し、人間のように振る舞えるようになる可能性はあると感じているが、そこに神学を持ち込む理由はないと考えている。
機械に真の意識を持たせることは不可能だと考えるのは、彼だけではない。「私は人工意識という考えに非常に批判的です」とベルナルド・カストラップは、哲学者でAI研究者としてFuturismに語った。「ナンセンスだと思います。一方で、人工知能は未来です」
カストラップは最近、ある記事をScientific Americanに寄稿し、意識は自然界の根本的な側面であり、人々は意識の解離した断片を取り込むことで、個別の存在になるという自身の主張を展開した。彼は、SFに登場するような、あらゆる領域を包含するAIを指す汎用AIでさえ、いつか実現する可能性はあると考えていると説明した。しかし、そのようなAIシステムであっても、人間のように私的で意識的な内面の思考を持つことは決してないという。
「残念ながら、Siriはせいぜいばかげた存在です。さらに重要なのは、私たちが今も彼女をそのように扱っていることです」とベランは語った。
さらに残念なことに、高度な人工知能を開発する私たちのアプローチは、まもなく壁に突き当たるのではないかという懸念が強まっている。先週ニューヨーク・タイムズに掲載された記事は、機械学習、さらにはディープラーニング技術が近年のような成長を続けるのかについて、懐疑的な見方を強める複数の技術者の証言を取り上げた。
水を差すようで申し訳ない。本当にそう思う。しかし、意識があること、感覚を持つこと、魂を持つことの意味をめぐる意味論上の議論に決着をつけたとしても、アルゴリズムをその段階に到達させる技術は、いつまでも手に入らないかもしれない。
しかし、人工知能が登場した当初、今日できることを誰も予測できなかった。確かに、人々は『宇宙家族ジェットソン』のようなロボットの助手や、エプコットのような先進的な交通機関を想像していたが、そこに至る具体的な手順までは分かっていなかった。そして今日、感情知能があり、繊細で、思慮深く、真に内省的な機械を実現する具体的な手順は、私たちにも分からない。
だからといって、その課題が不可能になるわけではない。そこに至る方法がまだ分からないだけだ。しかも、ゴールをどこに設定するかについて議論が決着していないため、いっそう難しくなっている。
「まだ長い道のりがあります」とフルダは言う。人工知能で複雑な問題を解くときによくするように、アルゴリズムをつなぎ合わせても答えにはならないと彼女は示唆する。
「人間性を一つずつの要素に分けて解決することはできません」とフルダは言う。「それは全体的な経験なのです」。たとえば、認知を理解するには知覚と移動を理解しなければならないと彼女は主張する。共感や社会的認識のモデル化の仕方を知らずに、発話を正確にモデル化することはできない。こうした要素を一つずつ機械に組み込もうとするのは、フルダによれば、「適量の絵の具を缶に流し込んで」モナ・リザを再現しようとするようなものだ。
傑作がどこかにあり、描かれるのを待っているのかどうかは、まだ分からない。しかし、もしそうなら、フルダのような研究者たちは筆を執る役を競い合っている。こうした問いへの答えを探し続ける限り、技術は前進し続けるだろう。しかし、昨日は想像もできなかったことを明日機械にさせる新たなコードを作る一方で、それが最終的にどこへ向かうのかを見定める必要がある。
私たちはダ・ヴィンチとなって、何世紀にもわたって称賛される、自らを面白がる女性を描くのだろうか。それとも、私たちを打倒する神々を創るウラノスとなるのだろうか。今のところ、AIは私たちがAIに指示したことをそのまま実行する。その結果は良くも悪くもなる。しかし、少なくとも感覚を持つように見えるアルゴリズムへと進むなら、それが何を意味するのかを明らかにしなければならない。
