カリフォルニア大学バークレー校のコンピューター科学教授で、著書にHuman Compatibleがあるスチュアート・ラッセルは、世界で最も高く評価されている人工知能の専門家の一人です。
この動画インタビューで、ラッセルはAIの現状、私たちの暮らしに対する脅威としての認識、そしてソーシャルメディアをはじめとする場でアルゴリズムが持つ影響力を評価しています。
この動画インタビューは、世界経済フォーラムが新たに開始したExperts Explain シリーズの一環です。経済学、科学、社会心理学の第一人者たちが、最も重要なアイデアを語ります。
「テクノロジーによって地球上の一人ひとりの分身を作れ、その分身がより陽気で二日酔いも少なく、無償で働くとしたら、今の仕事を続けられる人はどれくらいいるでしょうか？」
バークレー校の教授でコンピューター科学者でもあるスチュアート・ラッセルのこの言葉は、人工知能に対する私たちの不安の核心を突いています。私たちがしていることのうち、AIはどれほど多くを学び、私たちよりうまくできるようになるのでしょうか。そして、そうなったとき、私たち人間はどれほど安心していられるのでしょうか。
この詳細な動画インタビューでラッセルは、テクノロジーによるディストピアへの共通の不安を取り上げ、「汎用」AIの機能と範囲を探ります。身近な家庭用サーモスタットから、スマートフォンに釘付けにする、注意を引こうとする通知音や着信音までを考察します。
「何日も続けて1日に何百回も人をそっと促せば、その人の信念、好み、意見を大きく変えることができます」とラッセルは言います。
「アルゴリズムは世界中の何十億もの人々に甚大な影響を及ぼしています。あまりにも長い間、私たちはアルゴリズムを野放しにしてきたと思います。
インタビューの短い要約はこちらからご覧ください：
音声で聴きたい方は、動画に加えて、スチュアート・ラッセル、当フォーラムのポッドキャスト編集者ロビン・ポメロイ、そして世界経済フォーラムで人工知能・機械学習部門を率いるケイ・ファース＝バターフィールドによるポッドキャストでの対談もお楽しみいただけます。
以下はインタビューの全文書き起こしです。
AIとは何か？
スチュアート・ラッセル：実のところ、どこに明確な境界線を引いて、「このソフトウェアはAIで、あちらのソフトウェアはAIではない」と言うのは、驚くほど難しいことです。
この分野で私たちが考える対象は、エージェントと呼ぶものです。つまり、知覚したことに基づいて行動するものです。知覚はカメラやキーボードを通じて行われるかもしれません。行動には、画面に何かを表示すること、自動運転車のハンドルを切ること、戦車から砲弾を発射することなど、さまざまなものがあります。
AIの目的は、実際に適切な行動が出力されるようにすることです。つまり、そのエージェントに設定した目標を本当に達成する行動です。これは経済学や哲学で長く使われてきた「合理的エージェント」という概念に対応します。行動によって目標を達成すると期待できるエージェントのことです。私たちが目指しているのはそれです。
エージェントは非常に単純なものでもあり得ます。サーモスタットもエージェントです。知覚機能があり、温度を測ります。行動機能もあり、暖房をオンまたはオフにします。そして、ごく単純なルールが二つあります。暑すぎればオフにし、寒すぎればオンにします。
では、これはAIでしょうか。実際のところ、これをAIと呼ぶかどうかはそれほど重要ではありません。明確な境界線はないのです。ルールが17個あればAIで、16個ならAIではない、ということにはなりません。そんな区切り方は意味をなしません。ごく単純なエージェントから、人間のように非常に複雑なエージェントまで、連続的なものとして考えればよいのです。
「汎用」AIとは何か？
これがずっと目標でした。私が「汎用AI」と呼ぶものです。人間レベルのAI、超知能AI、汎用人工知能など、ほかの呼び方もあります。超知能AIより少し脅威に聞こえにくいため、私は汎用AIという呼び方を選びました。
おっしゃるように、人間が知性を使ってこなせるあらゆる作業を、AIシステムができるという意味です。すでにできるのでなければ、すぐにその方法を学び、人間と同等かそれ以上にこなせるようになります。
大半の専門家は、今世紀末までには汎用AIが実現する可能性が非常に高いと言っています。中央値は2045年ごろだと言う人もいます。そう遠い話ではなく、今から30年もありません。私はもう少し慎重な立場です。この問題は私たちが思うより難しいと考えています。
「テクノロジーによって地球上の一人ひとりの分身を作れ、その分身がより陽気で二日酔いも少なく、無償で働くとしたら、今の仕事を続けられる人はどれくらいいるでしょうか？」
スチュアート・ラッセル
AIは私たちの仕事を奪うのか？
これは非常に古くからある論点です。驚くべきことに、アリストテレスにも、完全自動化された織機と、弦をはじいて人間なしで竪琴の音楽を奏でる完全自動の撥があれば、労働者は必要なくなる、と述べた箇所があります。紀元前350年の話としては実に驚くべきことです。1930年にケインズが「技術的失業」と呼んだのはこの考えだったと思いますが、人々にはごく明らかなことです。機械が仕事をすれば自分は失業する、と考える。ラッダイト運動の人々もそれを心配しました。
長い間、経済学者たちは、技術的失業が起きるはずがないことを数学的に証明できたと考えていました。しかし、よく考えてみると……
テクノロジーによって地球上の一人ひとりの分身を作れ、その分身がより陽気で二日酔いも少なく、無償で働くとしたらどうでしょう。では、今の仕事を続けられる人はどれくらいいるでしょうか。答えはゼロだと思います。
つまり、経済学者の数学的定理には何か問題があります。この10年ほどで、経済学界の見方は大きく変わったと思います。私が初めて参加したダボス会議は2015年でした。新しいデジタル経済について話し合うはずの夕食会でしたが、ノーベル賞受賞者を含む何人もの著名な経済学者が、次々と立ち上がってこう言ったのです。「実は、デジタル経済の話はしたくありません。AIと技術的失業について話したいのです。少なくとも経済の観点から見れば、これは世界が直面する最大の問題です」と。
AIによって完全失業が起きるのか？
多くの経済学者は今も、相殺する効果があると考えていると思います。機械が仕事Xをすれば、人間は仕事Xをしなくなり、失業する、というほど単純ではありません。相殺する効果があるのです。
機械が何かをより安く、効率よく、生産的に行えば、社会全体の富が増えます。それによって経済のほかの仕事への需要も高まります。その結果、自動化が進む分野から、まだ自動化されていない分野へ労働力が移っていくのです。
しかし、すべてを自動化したら、分身の議論が当てはまります。無償で働く、誰もが持つ分身を作るようなものです。
そこで考えなければならないのは、私たちが自動化しない分野がほかにあるかどうかです。自動化したくないからかもしれませんし、人間のほうが本質的に優れているからかもしれません。これは楽観的な見方の一つで、ケインズもそう考えていたと言えるでしょう。彼は「人生の技を磨く」と呼びました。人間は、心地よく、賢明に、よく生きるという永遠の課題に直面することになるのです。そして、人生の技をよりよく磨く人は、未来においてより大きな成功を収めるでしょう。人生の技を磨くことは、人間が理解していることです。私たちは人生とは何かを理解しており、互いにそれを実践できます。私たちはよく似ているからです。
私たちには、人間ならではの優位性があります。人生で最も愛する人に振られるとはどういうことか、親を亡くすとはどういうことか、学校のクラスで最下位になるとはどういうことかを知っています。こうした点で、機械に対する比較優位があります。したがって、対人関係に関わる職業は、人間が本当の強みを発揮できる分野になるでしょう。実際、ますます多くの人がその分野に移っていくと思います。
AIに最も難しい問題の解決を任せられるか？
人間に何かを頼むことと、それをAIシステムの目標として与えることには大きな違いがあります。
人にコーヒーを持ってきてと頼むとき、それをその人の人生の使命にして、宇宙のほかのことは何も重要ではない、という意味ではありません。店が閉まる前にコーヒーを持ってくるためなら、スターバックスにいるほかの人を全員殺してもよい、という意味ではありません。そういうことではないですよね。
もちろん、私たちが共に大切にしているほかのことも、その人の行動に反映されるべきだという意味です。現在のAIシステムの作り方の問題は、目標を固定して与えることです。アルゴリズムに目標のすべてを指定しなければなりません。
たとえば、海洋の酸性化を食い止められるか、と尋ねたとします。非常に効率的にそれを実現する触媒反応は可能かもしれませんが、大気中の酸素の4分の1を消費するかもしれません。そうなれば、数時間かけて、かなりゆっくりと苦しみながら死ぬことになるでしょう。この問題をどう避ければよいでしょうか。目標を指定するときにもっと注意すればよい、と思うかもしれません。大気中の酸素を忘れないようにすればいい、と。しかし、その反応の副作用で海の魚がすべて毒に侵されるかもしれません。では、魚も殺さないように、と。さらに海藻はどうでしょう。海藻がすべて死ぬ原因になることも避ける、と。こうして延々と続きます。
ケイが触れた私の著書Human Compatibleの中心的な主張は、目標が何なのか自分では分からないと認識するシステムを構築すれば、大気中の酸素をすべて取り除く前に許可を求める、といった行動をとるようになるということです。世界を変える行為であり、それが私たちの望むことなのか望まないことなのか、アルゴリズムには分からないからです。何か望ましくないことをしてしまうのを避けたいので、尋ねる動機が生まれます。その結果、はるかに堅牢で制御しやすい振る舞いが得られます。極端な場合、機械の電源を切りたいと私たちが思えば、機械は実際に電源を切られることを望みます。私たちを困らせることを避けたいからです。何をして私たちを困らせているのかは分からなくても、それを避けたいのです。私たちが望むなら、電源を切ってほしいと思うでしょう。
こうした意味で、AIシステムを制御できるのは、真の目標が何なのか機械が確信を持てないからです。機械が目標を確実に把握していると思い込むように作ると、精神病質的な振る舞いが現れます。人間にも同じことが見られると思います。
AIをどれほど懸念すべきか？
AIはテクノロジーであり、それ自体が善でも悪でもありません。うまく使うか、悪用するかは私たち次第です。
設計の不十分なAIシステムにはリスクがあります。特に、誤った目標や不適切に設定された目標を追求するシステムは危険です。AIシステムだけでなく、アルゴリズム全般を、あまりにも長い間野放しにしてきたと思います。
かつて医薬品を野放しにしていた時代があったことを思い出してください。FDAなど医薬品を規制する機関はなく、品質の悪い薬や偽薬などによって何十万人もの人々が亡くなり、けがをしました。やがて約1世紀をかけて医薬品の規制制度が整いました。費用はかかりますが、制度があってよかったと考える人が大半です。アルゴリズムについては、まだそれに近いものすらありません。実現は可能なのに、
医薬品以上に大きな影響を及ぼしているかもしれません。アルゴリズムは世界中の何十億もの人々に甚大な影響を与えています。その影響が必ず良いものになると考えるのは妥当ではありません。各国政府も今、そのことに気づき始めており、混乱を招かずにどう規制するかを懸命に模索しています。
AIアルゴリズムは社会を壊しているのか？
この問いに答えるのが難しいのは、実際のところ答えが分からないからです。事実はソーシャルメディア企業の金庫の中に隠されています。基本的には、週に何兆件もの出来事です。何兆件です。何十億もの人々が1日に何百回もソーシャルメディアを利用し、そのたびにクリック、スワイプ、非表示、いいね、低評価、賛成、反対など、さまざまな反応をするからです。こうしたデータにはアクセスできません。
一方、アルゴリズムの仕組みを考えると、その目的は基本的にクリック率を最大化することです。人々に何かをクリックさせ、コンテンツに反応させたり、プラットフォームで時間を過ごさせたりしたいのです。後者は少し異なる指標ですが、基本的には同じことです。
人々にクリックさせるには、興味のあるものを送ればよいのだから、何が問題なのかと言うかもしれません。しかし、それが答えではありません。クリック率を最大化する方法は、人々が別の人になるようなコンテンツの連なりを送り、将来送られるコンテンツをよりクリックしやすくすることです。私たちが構築した数学的モデルによれば、アルゴリズムは人々を操り、変化させることを学習しています。そうすれば、将来さらに影響を受けやすくなり、より高い率で収益化できるからです。
同時に、このプロセス全体に餌を与える、人間が主導する巨大な産業も生まれています。クリックベイト産業や偽情報産業です。アルゴリズムが人々を非常に速く変化させる力を、そうした人々が乗っ取ってきました。1日に何百回もやり取りがあり、そのたびに小さな働きかけがあるからです。
しかし、何日も続けて1日に何百回も人をそっと促せば、その人の信念、好み、意見を大きく変えることができます。
アルゴリズムは、あなたがどんな意見を持つかには関心がありません。送ってくるものにあなたが影響されやすいかどうかだけを気にします。しかし、人々は関心を持ちます。そのプロセスを乗っ取り、利用して、自分たちの目的に合った分断を生み出してきました。ですから、もっと透明性を高めることが不可欠だと思います。AI研究者はこの現象を理解し、解決できるか確かめたいので、透明性を求めています。政府も、社会構造全体が崩壊したり、自国の利益を考えない他国から弱体化させられたりすることを強く懸念しているため、透明性を求めています。
ソーシャルメディアのAI問題は解決できるのか？
ソーシャルメディアの問題は、おそらく最も難しいものです。私たちの好まないことをしているだけではなく、実際に私たちの好みを変えているからです。これは、人間の好みを満たそうとするAIシステムの一種の失敗モードです。もっとも、これは一見もっともな目的に聞こえます。好みを満たす一つの方法は、すでに満たされるように好みを変えることです。政治家はこれがかなり得意だと思います。AIシステムにはそんなことをしてほしくありません。
しかし、これは厄介な問題です。ソーシャルメディアの利用者全員が自分を嫌っているわけではありません。自分が熱狂的なネオファシストに変えられた、いったい何をするのか、と言っているわけではありません。新たに身につけたネオファシズムこそ正しいと信じ、以前は自分がだまされていたと考えています。ここで、道徳哲学における現代の最難問のいくつかに行き着きます。好みが時とともに変化する人のために、どう行動すればよいのでしょうか。現在のその人のためか、未来のその人のためか、どちらでしょう。これには明確な答えがありません。道徳哲学の理解に欠けている部分があることを示していると思います。そういう意味で、ソーシャルメディアで起きていることを解きほぐすのは非常に難しいのです。
私が勧めたいことの一つは、考え方を変えることです。ソーシャルメディアのプラットフォームでは、「どうすれば収益を上げられるか」ではなく、「利用者は何を大切にしているのか。未来をどうしたいのか。自分自身をどんな人にしたいのか」と考えるべきです。分からない場合はどうするか。答えは、私たちには分からないということだと思います。
何十億もの利用者がいて、それぞれ少しずつ違い、好みも異なります。私たちはそれが何なのか分かりません。利用者の真の好みについて、最初は非常に確信の持てないシステムを構築する方法を考えてください。そして、好みを尊重しながら、それをもっと学ぶようにするのです。最も難しいのは、利用者の好みに触れてはいけないとは言えないことです。いかなる状況でも好みを変えてはならない、というわけにはいきません。たとえば、フィナンシャル・タイムズを読むだけでも好みは変わります。より多くの情報を得て、さまざまな見方を知り、その結果、別の人になるからです。
人は時間とともに変わっていくべきです。いつまでも生まれたばかりの赤ん坊のままでいたいとは思いません。しかし、人を別の人へと変える過程が良いものかどうかを判断する適切な方法がありません。
大学教育や世界を旅することは良いと考えます。たいていは人をよりよくします。一方、洗脳は悪く、カルトへの入信も悪い。カルトが人々にすることは悪い、と考えます。しかし、ソーシャルメディアで起きていることは、まさに私たちがこうした問いにどう答えればよいか分からない領域にあります。道徳哲学者やほかの思想家の助けが必要です。
汎用AIでより良い未来を築くには、どの原則を守るべきか？
三つの原則の第一は、あらゆる機械の唯一の目標は人間の好みを満たすことだ、というものです。ここでいう「好み」は経済学の用語です。どんなピザが好きか、誰に投票したかというだけではありません。重要なすべての事柄について、あり得る未来をどう順位づけするかということです。
つまり、非常に大きく、複雑で、抽象的なものです。たとえ説明しようとしても、その大部分は言葉にできません。また、自分でも文字どおり分からないこともあります。たとえば、ドリアンを食べたら好きになるかどうか、私は分かりません。大好きな人もいれば、ひどく嫌う人もいます。自分がどちらのタイプか分からないので、ドリアンを毎日食べる未来が好きかどうかも答えられません。これが第一の原則です。機械には人間の好みを満たしてほしいのです。
第二の原則は、機械は人間の好みが何であるかを知らない、というものです。つまり、人間の好みについて最初は確信を持たない。先ほど、この種の謙虚さが私たちの制御を保つ助けになると話しました。ある意味で、機械を人間に従うものにするのです。
第三の原則は、最初の二つの原則でいう「好み」の意味を明確にするものです。人間の行動が、人間の好みを示す証拠になるということです。少し説明を加えると、モデルでは、人間は未来について好みを持ち、その好みが私たちの選択を引き起こすと考えます。行動とは、私たちがすることも、しないこともすべてです。話すこと、話さないこと、座ること、あるいはこの講義やインタビューを見ながらメールを読むことも含まれます。
AIがもたらす可能性は計り知れません。ケインズの話に戻ると、確かに、全人類の歴史を特徴づけてきた生存のための闘いから解放され、富を得られれば、賢明に心地よく生きることが可能になるでしょう。
これまでは選択の余地がありませんでした。起き上がらなければ、飢え死にしてしまいます。未来には選択肢が生まれます。いつまでもベッドにいることを選ばないよう願いますが、豊かで、興味深く、充実した人生を実際に送るために、起き上がる理由はほかにもあるでしょう。
ケインズはそれについて考え、予測し、実現を期待していました。しかし、それが自動的に起きるわけではありません。
この黄金時代が到来しても、あらゆる種類のディストピア的な結果があり得ます。ただ、映画で描かれるように、機械が意識を持ち、人間を憎んで殺そうと決めるという事態は、実際には起こりそうにありません。
Experts Explainシリーズ全編はこちらからご覧ください。
