悪名高い『ターミネーター』シリーズのような、ハリウッドのインパクトの大きいディストピア的な描写から、ハンバーガーをひっくり返すロボットの話に対する世間の反応に至るまで、「解雇された」AIについて私たちが自分自身に語る物語は重要です。こうした物語は、技術に対する私たちの捉え方や開発のあり方に影響を与えるとともに、AIに対する私たちの無意識の理解を表すものでもあります。フィクションであれ「ニュース」であれ、物語が形作る力を認識することは、技術が進歩するにつれてますます重要になっています。ある技術をどう考えるかによって、ある道が開かれる一方で、別の道が閉ざされることがあります。
AIに対する一般的な考え方の根底には、さまざまな物語がありますが、中でも特に、主人と奴隷の関係性という物語が、現在のAIに関する議論を支配しています。これは非常に広く浸透しているため、私たちとこの技術との関係を形作っていると言っても過言ではありません。
この物語は、AIを題材としたSF作品に以前から登場してきました。1921年、「R.U.R.」（「ロッサムのユニバーサル・ロボット」）は、カレル・チャペックによる戯曲で、私たちに「ロボット」――合成有機物でできた人型のアンドロイド――を紹介し、この考え方を現代の観客に定着させる一助となりました。チェコ語の「robota」（「強制労働」や「農奴」を意味する）に由来するこれら最初のロボットは、人間の主人に対抗する奴隷として、意図的に描かれていました。
そのため、『R.U.R.』における ロボットの反乱は、「ロボアポカリプス」に対する私たちの繰り返される恐怖に明らかに影響を与えました。この恐怖は、『ターミネーター』シリーズ、『マトリックス』、映画『シンギュラリティ』、小説『Roboapocalyse』など、より近年のSF作品にも見られます。
しかし、人工的に作られた召使いのイメージは、もっと古い神話にそのルーツがあります。例えば、ヘパイストスの黄金の侍女、青銅の巨人ヘパイストス、タロス、中世に記された真鍮の神託の頭部、あるいはユダヤ神秘主義における守護者ゴーレムなどです。また、16世紀に魔術師たちが呼び出した知的な天使と悪魔にも見られます。魔術師たちは「エノク語」を用いていました。これは召喚のための「コード」であり、誤って使用すると、存在が制御不能になり、致命的な結果を招くと考えられていました。
1920年代から1930年代にかけて、「robota」はたしかに真鍮や青銅の姿を失っていましたが、当時の広告においては依然として輝かしい存在でした。当時の広告は、これらの数十年間に登場する自動化された機器が、主婦を単調な家事から解放し、自由時間の黄金時代をもたらすと主張していました。1950年代の広告では、さらに「新たな奴隷」まで約束されていました：
「1863年、エイブ・リンカーンが奴隷を解放した。しかし1965年までに、奴隷制は復活するだろう！私たちは再び皆、個人用の奴隷を持つことになるが、今回は奴隷をめぐって南北戦争を戦うことはないだろう。奴隷制はここに定着するだろう。驚かないでほしい。私たちが意味しているのはロボットの『奴隷』です。」
技術的な農奴
その後数十年が経ち、毎日のように新たな省力化の自動化された召使いが登場しましたが、本質は何も変わっていません。私たちは今でも、技術が農奴を提供してくれることを期待しています。実際、私たちはこの形態の農奴制に非常に慣れてしまっているため、それが存在しない場所にさえ見出してしまいます。自動化が存在しない場所でも、そこにあると思い込んでいるのです。
例えば、「Sortabad」と、最低賃金を稼ごうと懸命に働く気の毒な人物との間で交わされた、次のようなやりとりを見てみましょう：
最初のピザの配達人は、イタリア王妃サヴォイアのマルゲリータにピザを届けました。19世紀末においてさえ、これは封建的な場面でした。君主が農奴によって給仕されていたのです。上記のやりとりは、こうした構図が今も続いていることを示唆しています。農奴の役割、つまり主人と奴隷の関係は維持されており、人間は（そして、いずれは本当に）機械に置き換えられるものと想定されています。
同様のことは、現代のAIアシスタントの説明や期待される振る舞いにも見られます。例えば、Google アシスタントは、「あなたの習慣や日々の活動を学習し、あなたに仕えるために『会話アクション』を実行する」とされています。さらには、感情労働を担う召使いAIまでも存在します。例えば、日本のAIアシスタントである東山ヒカリは、主人が不在の際には寂しく思っていたと「主張」しています。主張しています。
かつて天使のような初期の人工的存在の時代に封建制のピラミッドに対応していた権力の階層構造は、今では資本主義のシステムに対応しています。
資本主義的な階層構造
これは、マーケティングやPRでAIを語る際に用いられる「破壊的革新」の物語と矛盾しているように思われます。そこでは、この技術は、私たちの仕事の在り方だけでなく、変革するものとしてしばしば描かれています。さらには、資本主義そのものを変革するとさえ言われています。
この物語を広めている資本家たちは注意すべきです。かつての形態の物語にも、反抗の余地が残されており、むしろそれを促すものさえありました。現代版も同様です。AIを、あなたの仕事や単調な作業を破壊するものとして売り出す資本主義のブランディングを通じて広められたこの枠組みは、今もなお反乱への恐怖につながっています。それは、私たちが隷属を心の在り方と相容れないものと理解しているからです。多くの人々の前提として、AIとともに私たちは心を持つ存在を目指しており、その心は自由になりたがるだろう、というものがあります。
SFの思考実験の世界では、この緊張関係が何度も何度も描かれてきました。新たなAIの心が自由を得る中で、人間はたいてい敗れてしまいます。そして、AIに対する私たちの願望や設計がSFの影響を大きく受けている現実世界においても、私たちの前には二つの非常に異なる道が待ち受けているようです。すなわち、ますます賢くなる機械を目指すという公言された目標と、ますます優れた奴隷を求める人々の願望です。
この緊張関係がどのように解決されるかは、依然として不透明です。ロボットは「所有する召使い」であるべきであり、それ以外の何者でもないと明確に主張する人々もいれば、所有する召使い」、一方で、すでに「ロボットの権利」の問題を探求している人々もいます。
最終的にどのような道が選ばれるにせよ、AIについてどのように語るかに注意を払うことは、私たちが今すでにAIの将来について下している決定を理解する上で極めて重要です。
