このトランスクリプトは音声認識ソフトウェアで生成されたものであり、誤りを含む可能性があります。音声と照らし合わせて正確性をご確認ください。
ファリード・ザカリア、司会、『GPS』、CNN: このパネルでは、AIの問題の解決を目指します。持ち時間は45分です。ヘンリー・キッシンジャーはかつて、紹介を必要としない人ほど紹介されたがるものだと言っていました。そこで私はそのルールを捨てることにします。ここにいる皆さんには紹介は不要だと思います。皆さんがどなたかはご存じでしょうし、そもそも皆さんが特に紹介を気にするとも思えません。
まずサムさんからお聞きします。AIについて、多くの人は正反対の二つのことを心配していると思います。一つは、AIが私たちの知る人類を終わらせてしまうのではないかということ、もう一つは、どうして自分の車を運転できないのか、ということです。
現時点で、人工知能は現実的にどの段階にあるとお考えですか。あなたにとって、AIが最も効果的にできることは何でしょうか。また、AIにはできないことについて、私たちが理解しておくべき点は何でしょうか。
サム・アルトマン、最高経営責任者、OpenAI OpCo, LLC: この新しいツールについて非常に良い兆しだと思うのは、現在の能力が非常に限られており、深刻な欠陥があるにもかかわらず、人々がそれを大きな生産性向上やその他の利益につなげる方法を見つけ、同時にその限界も理解していることです。
つまり、正しいこともあれば、創造的なこともあり、しばしば完全に間違っているシステムです。実際、そのようなシステムに車の運転を任せたいとは思わないでしょう。しかし、何を書くかを考える際のブレインストーミングや、自分で確認するコードの作成を手伝ってもらうことには満足するでしょう。
ファリード・ザカリア、『GPS』、CNN: なぜAIには自分の車を運転できないのか、その理由を説明していただけますか。
サム・アルトマン、OpenAI OpCo, LLC: 自動運転車のシステムは優れたものがあります。たとえば、今ではウェイモ(Waymo)がサンフランシスコ周辺で多数走っており、人々に愛されています。私が言いたかったのは、OpenAIのような種類のモデルは、ある種のことには優れていても、生死がかかるような状況には向いていないということです。
ただ、人々はツールとその限界について、私たちが普段考えている以上によく理解していると思います。そして人々は、ChatGPTを自分にとって非常に役立つものにする方法を見つけ、また、ほとんどの場合、何に使うべきでないかも理解しています。
ですから、これらのシステムが現在きわめて限られた能力しか持っていないにもかかわらず、それが良い兆しだと思うのです。今年私たちが手にするものと比べればずっと劣りますし、来年のものと比べるまでもありません。それでも多くの人が、それらから価値を引き出し、同時にその限界も理解する方法を見つけています。
ですから、AIは今や多少なりとも身近なものになったと思います。人々が実際にそれを使うようになったからです。そして新しい技術によって世界を前進させる最善の方法は、いつもそれを人々が使うことだと思います。
ファリード・ザカリア、『GPS』、CNN: 人々が心配しているのは、AIを信頼できるかどうかという点だと思います。どの段階であれば、AIにそれを任せても本当に大丈夫だと言えるのでしょうか。車の運転でも、論文の執筆でも、医療書類の記入でも同じです。
そして、その信頼の一部は、AIがどのように機能するかを理解したときに得られるものだと思います。AI研究者やAIエンジニアが直面している問題の一つは、なぜAIがそのように動くのか、ニューラルネットワークがどのように動作し、さまざまな要素にどのような重みを割り当てているのかを解明することです。
私たちはそこにたどり着けると思いますか。それとも、あまりにも本質的に複雑になっていて、ある段階では結局ブラックボックスを信頼するしかなくなると思いますか。
サム・アルトマン、OpenAI OpCo, LLC: ご質問の前半についてですが、人間は他の人間の過ちにはかなり寛容だと思います。しかし、コンピュータの過ちには、ほとんど寛容ではありません。
ですから、自動運転車はすでに人間が運転する車より安全だと言う人がいますが、人々がそれを受け入れるには、おそらく10倍から100倍程度、あるいはそれ以上安全でなければならないと思います。
最も難しいのは、99.99%の確率で正しいときに、人が油断してしまうことです。
サム・アルトマン、OpenAI
そして、ほかのAIシステムについても同じことが起こると思います。ただし、人々がツールに慣れていて、それが完全に間違うこともあると知っていれば、それはある意味で構わないことだと思います。ある意味では、最も難しいのは、99.99%の確率で正しいときに、人が油断してしまうことだと思います。
また、何が起きているのかを検証したり理解したりするということの意味も、今人々が考えているものとは少し違ったものになると思います。
私はあなたの脳の中を覗き込んで、100兆個のシナプスを一つひとつ調べ、そこで何が起きているかを理解することはできません。ですから、あなたがなぜそう考えているのかを本当に理解した、とは言えません。あなたは私にとってブラックボックスではありません。
しかし、私があなたにお願いできるのは、自分の推論を説明してほしい、ということです。なぜそう考えるのか、と尋ねることができます。すると、あなたは最初にこれ、次にこれ、そしてこの結論に至り、さらにその次に、と説明することができます。そして私は、それが筋が通っていると思うかどうかを判断できます。
そして、私たちのAIシステムも同じことができるようになると思います。自然言語で、AからBに至る段階を説明できるようになり、私たちは、それが妥当なステップかどうかを判断できるでしょう。たとえ、各つながりを一つひとつ確認しなくてもです。
私たちは、AIの脳をX線で透視するように、あなたや私の脳を透視して、そのつながりを理解するよりも、より多くのことができるようになると思います。しかし、あなたや私が「この結論に同意するかどうか」を判断する段階では、人々がお互いに尋ねるのと同じように、「あなたの推論を説明してほしい」という方法で判断することになるでしょう。
ファリード・ザカリア、『GPS』、CNN: 先ほどあなたと話したことの一つ、そしてあなたがいつも強調してきたことの一つは、AIは非常に親しみやすく、無害で、共感的になりうるという考えでした。そこで、あなたの考えを聞かせてください。AIが人間を分析でき、人間より計算できるのであれば、人間に残される役割は何だと思いますか。多くの人は、その場合でも私たちに残されるのは、生まれ持った人間らしさ、つまり感情的知性、共感、他者を気遣う能力だと言います。しかし、AIがそれさえも私たちより上手にできると思いますか。もしそうなら、人間の中核となる能力は何でしょうか。
サム・アルトマン、OpenAI OpCo, LLC: 多くのことがあると思います。人間は、他の人間が何を考えているかを本当に気にします。それは私たちに非常に深く組み込まれているように思えます。
チェスは、AIの最初の犠牲者の一つでしたよね。ディープ・ブルーがカスパロフに勝ったのは、いつだったか忘れましたが、ずいぶん前のことです。そのとき、解説者たちは皆、これでチェスは終わりだと言いました。コンピュータが人間に勝てるようになったのだから、もう誰もチェスを観戦したり、プレイしたりしなくなる、と。
しかし、チェスは、私が思うに、今ほど人気が高まったことはありません。そして、AIを使って不正をするのは、大きな問題です。ほとんど誰も、二つのAIが対戦するのを見ようとはしません。私たちは、人間が何をするのかに非常に関心があるのです。
私が大好きな本を読み終えたとき、最初にすることは、著者の人生についてすべてを知りたいと思うことです。そして、私の心に響いたものを生み出した人との何らかのつながりを感じたいと思うのです。
そして、それは他の多くの製品についても同じです。人間は、他の人間が何を求めているかをよく知っています。また、人間は他の人間にも非常に興味を持っています。人間には、より良いツールが与えられるでしょう。以前にもより良いツールはありましたが、それでも私たちは互いに強く関心を向けています。より良いツールがあれば、私たちはさらに多くのことを成し遂げられると思います。
今回は、以前とは違うと感じるのも確かです。汎用的な認知能力は、私たちが人間性について大切にしているものにあまりにも近いため、違いを感じさせるのです。
もちろん、人間でなければならない役割もあるでしょう。しかし、そうした役割がなくても、私自身の仕事を考えてみると、私は決して優れたAI研究者ではありません。私の役割は、私たちが何をすべきかを考え、その上で他の人々と協力して、それを実現させることです。
そして、誰の仕事も、その形に少しずつ近づいていくと思います。私たちは皆、もう少し高い抽象度で仕事をするようになるでしょう。また、私たちは皆、はるかに多くの能力にアクセスできるようになり、それでもなお意思決定を行うことになります。時間が経つにつれて、仕事はキュレーションの方向に寄っていくかもしれませんが、世界で何が起こるべきかについての決定は、私たちが行うことになるでしょう。
ファリード・ザカリア、司会、『GPS』、CNN: マーク、もう一人の技術者として、あなたにも加わっていただきましょう。サムが言っているように見えるのは、感情的であり、チームワークに関わる資質こそが非常に重要になる、ということだと思います。このことについてどう思われますか。
あなたは巨大な組織を率いており、膨大な量の技術を利用しています。AIの世界で、人間が最も得意とすることは何になると思いますか。
マーク・ベニオフ、会長兼最高経営責任者、Salesforce Inc: さて、私にはわかりませんが、WEFで初めてAIが司会を務めるパネルはいつ開かれると思いますか。
私は長年この舞台に座ってきて、いつも誰かを見下ろしてきました。ここにはあなたという素晴らしい司会者もいますが、それほど遠くない未来には、そうなるかもしれません。おそらく数年以内に、WEFのデジタル司会者があの席に座り、このパネルの司会を務めることになるでしょう。私たちが持っている情報の多くにアクセスできるため、かなり良い仕事をするかもしれません。
そうなると、それを信頼してよいのかという問題が出てきます。信頼の問題は、かなり早く上の段階にまで及ぶと思います。デジタル医師やデジタル人材も登場するでしょうし、そこには何らかの信頼のレベルが求められることになるでしょう。
今日、AIを見ると、サムがなしとげた素晴らしい仕事があり、また、ここに来ている多くの企業、たとえば私たちが会ってきたCohereやMistral、Anthropicなど、素晴らしいことをしているほかのモデル企業もたくさんあります。しかし、私たちは皆、ハルシネーションと呼ばれる問題がまだ存在していることを知っています。ハルシネーションは興味深いもので、モデルは楽しく、私たちはそれと話をしますが、そのうち嘘をつくのです。そうすると、「ちょっと待って、それは正確ではない」と思うことになります。
昨晩は夕食会に出席していました。友人たちとのとても楽しい食事の席で、私たちは同席していた人の一人について、AIに尋ねてみたのです。するとAIは、その人がある病院の理事を務めていると答えました。すると彼女は私の方を向いて、「いいえ、違います」と言いました。私たちは皆、そのような経験をしたことがありますよね。
私たちはその橋を渡らなければなりません。信頼という橋を渡らなければならないのです。だからこそ、私たちは英国のAI安全サミットに行ったのです。数カ月前、私たちは皆そこに集まりました。非常に興味深いものでした。技術リーダーたちが初めて集まり、また、すべての国の政府の技術担当大臣が勢ぞろいしたのです。実際、驚くべきことでした。このようなものは、これまで見たことがありません。
しかし、誰もがそこにいたのは、私たちがこの転換点にいることに気づいたからです。私たちはまだ完全にそこに到達したわけではありません。今、私たちは、サムの製品やほかの製品を使っていて、「わあ、AIとの非常に素晴らしい体験をしている」と言える段階にあることは、疑いようがありません。このような双方向性は、これまでほとんどなかったものです。しかし、私たちはまだそれを完全には信頼していないのです。
ですから、信頼の橋を渡らなければなりません。また、規制当局にも目を向けなければなりません。ここ10年のソーシャルメディアを見てください。それはまさに、ひどい騒ぎの連続でした。非常にひどいものでした。私たちはAI産業でそれを繰り返したくありません。こうした司会者や規制当局と、健全で良好なパートナーシップを築きたいと思っています。
それこそが、私たちがどこへ向かうのかという力の始まりだと思います。顧客と話していると、彼らが本当に何を望んでいるのかは、必ずしもはっきりしていません。もちろん、利益率を高めたいことは分かっています。ジュリーもそう言うでしょう。生産性を高めたい、顧客との関係をより良くしたい、と思っているのです。
しかし、結局のところ、彼らはAIに目を向けることになりますが、それは従業員を置き換えるためなのか、それとも従業員を補強するためなのか、ということです。そして今日のところ、AIはまだ人間に取って代わるほどの段階にはありません。むしろ、人間を補強する段階にあります。
ですから、このパネルに備えるためにAIを使い、ChatGPTに「サム・アルトマンにAIの現状について尋ねるなら、どんな良い質問があるだろうか」と聞いていたとしても、私は驚かないでしょう。それによってあなたは少し良くなり、補強されたのです。
私の放射線科医も、CTスキャンやMRIの読影を助けるためにAIを使っています。このようなことも起きています。私たちは、「わあ、まるでデジタルの人間のようだ」と思うような突破口のすぐ手前まで来ています。そしてその段階に到達したとき、私たちは自問することになるでしょう。それを信頼してよいのかと。
ファリード・ザカリア、司会、『GPS』、CNN: さて、記録のために申し上げると、私はこのパネルの準備にChatGPTを使ってはいません。
ジュリー、人々はAIを抽象的なレベルで語りますが、実際にどうやって生産性を高めるのか、皆さん理解したいと思っているように感じます。マークが問いかけたのはまさにその点でした。あなたは巨大な組織を率いています。先ほど、インドだけで33万人を雇用していると話されましたね。すでにAIをどのように導入し、それがどのような効果をもたらしているか、何か把握していますか。
ジュリー・スウィート、会長兼最高経営責任者、Accenture: では、少し実践的な話をさせてください。私が弁護士事務所で働いていたとき、電子メールが導入されたことを覚えているほどの年齢です。当時私は若い弁護士でしたから、顧客に何かを送るためには、自分でファックス機の前に立って送信しなければなりませんでした。そこに電子メールが登場し、私たちはこれは素晴らしいと思いました。ところが、事務所のトップは、電子メールは素晴らしいが、安全ではないので、文書を添付して顧客に送ることはできないと言いました。今となっては信じられませんよね。
今日、私たちが抽象的な議論をしているとき、実際には多くの場合、社員たちはこの技術を使いたいと思っていて、利用を求め始めています。たとえば、消費財の営業を現場で担当している場合、時間の多くを、その顧客が誰なのか、配送に問題があるのかといったことを調べることに費やしています。配送は別の部署の担当ですから、そうしたことが全部絡んできます。
今日の技術を使えば、適切な注意事項を守ったうえで、どの顧客を訪問すべきかをスマートフォンで非常に正確に知らせてもらえます。配送に問題があったかどうかも分かり、個別に合わせた内容を作成してもらうこともできます。そして、時間の多くを顧客との会話に使うことができます。それこそが、実際に事業を成長させる方法だからです。
ですから、AIについて考えるとき、もちろんさまざまなリスクがあります。サムが言ったように、技術は変化していきます。そして重要なのは、今それが何に役立つのかを知り、どうすれば適切な安全策を講じて導入できるかを考えることです。CEOとして、私は社内で電話をかけて相談できる人がいます。その人は、どこでAIが使われているのか、どのようなリスクがあるのか、それをどう管理しているのかを教えてくれます。そして、それにもとづいて導入するのです。
ですから、私たちは準備が整っている分野では、広くAIを導入しています。ただ、注意しなければならないと思います。あなたがこのパネルを、AIの問題を解決するという言葉から始められたとき、私がすぐに思ったのは、AIをどう活用するかを見極めたいということでした。それは大きな機会だからです。そして、アルバートがAIが科学にもたらすことについて話すと思いますが、AIは、読んだり、物事を理解しようとしたりすることに時間を費やしたくない人々、そしてクライアントや顧客と過ごす時間を増やしたい人々にとっても、多くの素晴らしいことをしています。
ですから、AIを成功裏に使えるかどうかの違いは、最も大きなものは、リーダーたちが自ら学んでいるかどうかだと思います。そうすれば、私に「書類を添付してメールで送ることはできない」と言った人々のようにはなりません。しかし、技術を学ぶ時間を取り、それを責任ある方法で適用しなければ、それはできません。
ファリード・ザカリア、司会、『GPS』、CNN: では、Accentureの生産性を高めようとするなら、現在それぞれの人がしている仕事を、より少ない人数で行えるようにAIを使うのが一つの方法ではないでしょうか。たとえば、書類や何かを送る大きな部署があるとします。AIならもっと効率的にそれができるでしょう。そうすると、必要な人数は半分で済むかもしれません。そういうことは起こりそうですか。
ジュリー・スウィート、Accenture: ですから、覚えておいてください。生成AIは最新のAIにすぎません。私は10年にわたってそれに取り組んできました。かつては、コンピュータシステムを手作業でテストする人が1,000人以上いました。それも基本的に2015年にはなくなりました。
ですから、投資家が私に、いつ人間と技術の差を埋めるつもりなのかと尋ねると、私は、毎年取り組んでいると答えています。私はクライアントに対して、毎年10%多く生産性を高めることを約束し、実際にそれを提供し続けています。生成AI以前からそうしてきたのです。これは新しいことではありませんよね。これは以前の技術よりも強力で、より利用しやすいものです。そして、「責任あるPC」といった言葉は聞いたことがなかったでしょう。そんな概念はなかったのです。そして、より強力だからこそ、私たちは違う考え方をしなければなりません。
2019年には50万人の社員がいましたが、現在は74万人です。私たちは全員に技術トレーニングを導入しました。郵便室で働いている人であろうと、今も存在している人事部門や顧客対応の人であろうと、全員が基本を学び、評価を受けなければなりませんでした。AI、クラウド、データについてもです。
今後6カ月で、25万人に生成AIと責任ある利用についてのトレーニングを行う予定です。これは、会社を運営し、正しく事業を行うための基本的なデジタルリテラシーです。
そして、公共サービスについても言えることです。この強力な技術を取り入れることで、社会サービスは大きく改善されるでしょう。
ですから、まず何よりも、それが何であるかを学ばなければなりません。そうすれば、バランスの取れた形で議論できます。そして確かに、責任あるAIのように、今日ほとんどの企業にはまだ存在しない能力があります。Accentureで誰かがAIを使うと、それは自動的にルーティングされ、リスクが評価され、必要な緩和策が適用されます。そして、私はどこでAIが使われているのかを正確に把握し、必要があれば担当者に直接連絡することができます。これは、12カ月から24カ月以内に、責任ある企業の間で当たり前のものになるでしょう。
ファリード・ザカリア、司会、『GPS』、CNN: アルバート、ここ数年聞いてきたもう一つの大きな革命は、生物学の革命です。ゲノムの解読や遺伝子編集の能力などです。AIは全般的に、あなたの分野にどのような影響を与えていますか。特に、AI革命とバイオテクノロジー革命という二つの革命は、今や互いに影響し合っているのでしょうか。
技術と生物学の進歩が並行して起きていることで、私たちは生命科学において科学的なルネサンスに入ろうとしていると、私は心から信じています。
アルバート・ブラ、最高経営責任者、ファイザー
アルバート・ブラ、最高経営責任者、Pfizer, Inc.: 今まさに、技術革命によって、私たちの仕事の内容が変わりつつあります。私たちの仕事は、患者の命を救う画期的な発見をすることです。AIがあれば、より速く、より良くそれができます。これは、先ほど話したような生物学の進歩だけでなく、技術の進歩と、その二つの融合によるものでもあります。その結果、これまでできなかったことを可能にする、非常に大きな効果が生まれています。
技術と生物学の進歩が並行して起きていることで、私たちは生命科学において科学的なルネサンスに入ろうとしていると、私は心から信じています。
ファリード・ザカリア、司会、『GPS』、CNN: いくつか例を挙げていただくか、この二つの技術、二つの革命がどのように相互作用しているのか、理解できるように説明していただけますか。
アルバート・ブラ、最高経営責任者、Pfizer, Inc.: 生成AIは、私たちが基本的に昨年、目にしたときに皆が感銘を受けたものです。しかし、さまざまな形のAIはずっと以前から存在しており、私たちは研究室で非常に集中的に活用しています。
最も分かりやすい例は、COVID向けの経口錠剤の開発です。その化学的な部分は4カ月で開発されましたが、通常は4年かかります。これは、いわゆる創薬と呼ばれる典型的なプロセスでは、何百万もの分子を合成し、その中からどれが効くのかを見つけ出そうとするからです。
今、AIによって、私たちは創薬ではなく、薬剤設計へと移行しています。つまり、300万個の分子を作る代わりに、600個だけを作ります。その際、膨大な計算能力とアルゴリズムを使い、成功する可能性が最も高い分子を設計し、その中から最適なものを見つけ出すのです。
4年が4カ月になりました。それによって、何百万人もの命が救われました。
ファリード・ザカリア、司会、『GPS』、CNN: 大臣、あなたは政治家です。サムが提起した信頼の問題や、マーク・ベニオフが提起した信頼の問題は、中心的なものに思えます。人々にAIを信頼させるにはどうすればよいのでしょうか。人々はAIを信頼すべきなのでしょうか。また、政府はAIを規制し、信頼できるものにすべきなのでしょうか。
ジェレミー・ハント、財務大臣、英国財務省: 私は、規制は軽めにすべきだと思います。今はまだ非常に新しい段階なので、育つ機会を得る前に、金の卵を産むガチョウを殺してしまう可能性があります。
私が初めてChatGPTを使ったときのことを覚えています。「ジェレミー・ハントは良い財務大臣ですか」と尋ねました。すると、「ジェレミー・ハントは財務大臣ではありません」という答えが返ってきました。そこで私は「いいえ、彼は財務大臣です」と言いました。そして「彼は良い財務大臣ですか」と尋ねると、「申し訳ありませんが、あなたの期待に応えられていません。しかし、ジェレミー・ハントは財務大臣ではありません」という返答でした。つまり、得られる回答には、しばしば正当化されない一種の確実性があるのです。
しかし、私たちは皆、AIから大きな恩恵を受けられると思います。英国はすでに好調です。ロンドンは、サンフランシスコに次ぐ、AIの世界で二番目に大きな拠点です。そして英国は、米国と中国に次いで、世界で三番目に大きな技術経済圏、すなわち1兆ドル規模の技術経済圏になったばかりです。
しかし、政治家として私は、私たちが直面している大きな問題を見ています。たとえば、次のパンデミックが起きたとき、ワクチンを手に入れるまで1年も待ちたくはありません。もしAIによって、そのワクチンを手に入れるまでの時間を1カ月に短縮できるなら、それは人類にとって大きな前進になります。
現在、英国をはじめ先進国の多くでは、有権者が税負担の水準に強い不満を抱いています。AIによって公共サービスの提供方法を変革し、より生産性の高い公共サービスを、より低い税負担で実現できるのであれば、それは非常に大きな成果です。
しかし、私たちは技術の成長を認める必要があると考えています。また、必要となる安全策にも目を向けておく必要があります。
英国は世界の安全保障においても非常に大きな役割を担っています。今朝早くサムとも話していたように、不正なアクターがAIを使って核兵器を開発することを許してはなりません。
だからこそ、私たちは目を見開いて警戒を怠らないことが必要であり、昨年末にリシ・スナク首相が主催したAI安全性サミットが非常に重要だったのです。
しかし、私たちは軽やかなアプローチで取り組む必要があります。なぜなら、私たちはただ謙虚であるべきだからです。まだ分からないことが非常に多く、この技術がどこへ私たちを導くのか、その可能性を理解しなければなりません。しかし現時点では、誰もその問いに答えられる人はいないのです。
ファリード・ザカリア、司会、GPS、CNN: アルバート、規制が最も重要になる分野の一つは、信頼の問題だと感じます。AIと医療が組み合わさるとき、人々が最も懸念するのは信頼です。コンピュータのどこかで開発された薬を服用すること、あるいはその医師の助言に従うことは、本当に安全なのでしょうか。その不安を和らげる方法はあるのでしょうか。
アルバート・ブーラ、ファイザー社: あると思います。まず理解すべきは、AIが非常に強力なツールであるということです。悪意のある人の手にあれば世界に悪影響を及ぼしかねませんが、善意のある人の手にあれば世界に大きな益をもたらすことができます。
現時点では、その利益がリスクを明らかに上回っていると確信しています。しかし、規制は必要だと考えています。現在、その規制がどのような安全策を設けるべきかについて、活発な議論が行われています。悪質な主体からの保護に重点を置く国もあれば、科学者が次のパンデミックのような場面で、世界が求める素晴らしいことを実現できるようにすることに重点を置く国もあります。
私たちは、人々を守りつつ、同時に世界が前進できるようにする適切なバランスを見つける必要があると考えています。
ファリード・ザカリア、司会、GPS、CNN: サム、私が技術を見るとき、よく抱く恐れは、悪意のある人がこの技術で何をするかということです。しかし、技術が私たちを支配するという、さらに大きな問題を懸念する人も多くいますよね。
あなたはAIに対して常に楽観的な、あるいは比較的楽観的な見方をしてきました。しかし、イーロン・マスクや、時にはビル・ゲイツのように、この分野について多くを知る非常に聡明な人々は、非常に強い懸念を抱いています。
なぜ彼らが間違っていると考えるのでしょうか。彼らはAIについて何を理解していないのでしょうか。
サム・アルトマン、OpenAI OpCo, LLC: そうですね、彼らが間違っていると決まっているわけではないと思います。彼らの懸念の一部は正しいと思います。この技術が非常に強力であり、何が起こるかを確実に言い切ることはできないという点です。
それは、あらゆる大きな技術革命に共通することです。
しかし、この技術は世界に大規模な影響を与え、非常にひどい方向に進む可能性があると容易に想像できます。
私たちが推進してきた技術の方向性は、安全にできると考えているものであり、それには多くの取り組みが含まれます。
私たちは反復的な展開を信じています。つまり、途中の段階でこの技術を世の中に出し、人々がそれに慣れるようにするのです。そうすることで、社会や制度が議論を行い、どのように規制し、どのような安全策を設けるかを考える時間を持てるようになります。
ファリード・ザカリア、司会、GPS、CNN: 技術的に安全策を組み込み、AIシステムのための一種の憲法を書くことは可能でしょうか。それは機能するでしょうか。
サム・アルトマン、OpenAI OpCo, LLC: GPT3からGPT4への進歩を見ると、AIが一連の価値観にどれだけうまく適合できるかという点で、私たちは大きな前進を遂げています。
さて、技術的な問題よりも難しい問いがあります。それは、その価値観が何であるべきかを誰が決めるのか、そして初期設定や限界が何であるべきか、この国とあの国では異なる扱いをどう設計するのか、私が何をしてよく、何をしてはいけないのか、という問題です。
人々がこの技術の欠点を恐れていることは良いことです。私たちがそれについて話し合っていることも良いことだと思います。私たちや他の企業が高い基準によって評価されていることも良いことだと考えています。
サム・アルトマン、OpenAI
これは社会全体に関わる大きな問いであり、最も重要な問題の一つです。
しかし、技術的なアプローチという観点では、楽観的になれる余地があると考えています。ただし、現在の整合性の技術は、より強力なシステムにまで完全に拡張できるとは思えず、新しい方法を発明する必要があるでしょう。
ですから、人々がこの技術の欠点を恐れていることは良いことだと思います。私たちがそれについて話し合っていることも良いことです。私たちや他の関係者が高い基準によって評価されていることも良いことだと考えています。
また、技術がどのように安全なものとして作られてきたか、そして社会の様々な利害関係者が、安全とは何か、どこまでが十分に安全なのかについてどのように交渉してきたかについて、過去から多くの教訓を引き出すことができます。
しかし、私たちのような企業や、同様のことに取り組む他の人々に対して、世界が抱く一般的な不安や不快感については、大いに共感します。つまり、なぜ私たちの未来が彼らの手の中にあるのか、なぜ彼らはこのようなことをしているのか、なぜ彼らがそれを行う資格を得たのか、という懸念です。
そして、その責任は私たちにあると思います。私は、そして世界の多くが今では、この技術がもたらす利益は非常に大きく、だからこそ私たちは取り組むべきだと信じています。しかし、私たちは社会からの意見を得る方法を見つける責任があると思います。それは、システムの価値観が何であるかだけでなく、安全性の基準がどこにあるべきか、そして一つの国で起きたことが別の国に極端な悪影響を及ぼさないようにするためにどのような世界的な協調が必要かについて、社会の意見を取り入れることです。その全体像を示すためにも必要なことです。
ですから、慎重さを欠くこと、そして潜在的なリスクの重大さを感じないことは、非常に悪いことだと思います。だから、人々がこれに不安を感じていることは良いことだと考えています。私たち自身も不安を抱えていますが、それを乗り越えられると信じています。そして、そのための唯一の方法は、技術を人々の手に委ね、社会と技術が共に進化し、段階を踏みながら、緊密なフィードバックループと軌道修正を行うことです。そうして、安全要件を満たしつつ、非常に大きな価値を生み出すシステムを構築していくのです。
ファリード・ザカリア、司会、GPS、CNN: マーク、この問題全体についてどう考えますか。
マーク・ベニオフ、Salesforce, Inc: そうですね、私たちは皆、映画を見てきたと思います。HAL(2001年宇宙の旅)を見ましたし、『マイノリティ・リポート』や『ウォー・ゲームズ』も見ました。AIがうまくいっているときと、うまくいかないときに何が起きるかについて、私たちの想像力は満たされています。
そして、私たちは幻想的な新しい世界へと進んでいます。サムがいつも言っているのが好きです。彼は机の上に、次に何が起こるか正確には分からない、という標語を掲げていますよね。私たちも、何が起こるかを完全には把握できていないからです。
サム・アルトマン、OpenAI OpCo, LLC: 実際には、「次に何が起こるかは誰にも分からない」と書いてあるんです。これは重要な違いだと思います。
マーク・ベニオフ、Salesforce, Inc: その訂正をありがとうございます。私の言いたかった趣旨は、正しく伝わっていることを願います。
さて、私たちの顧客は常に私たちのところに来て、これを使いたいと言っています。では、顧客は何を求めているのでしょうか。彼らはより高い利益率を求めています。より高い生産性を求め、より良い顧客関係を求めていて、AIがそれを与えてくれることを望んでいます。
私はつい先日ミラノから戻ったところで、グッチのところを訪れていました。そこには300人のコールセンター・オペレーターがいて、彼らは当社のサービスクラウドを使っています。そして、当社のAIプラットフォームであるEinsteinを使いたいと考えています。今週だけでも、予測と生成に関する取引を一兆件処理する予定です。私たちはサムと提携していて、とても刺激的です。また、顧客が安心して使えるよう、「信頼レイヤー」も備えています。
そして私は顧客に尋ねます。本当に何を望んでいるのか、と。正直なところ、彼らが何を望んでいるのか私にははっきりとは分かりません。人を置き換えたいのか、それとも人を増やしたいのか。何らかの価値を得たいのでしょうか。AIに関して、多くの企業は実験的な段階にあるので、私たちはそれをそこに導入しました。
それは6か月から9か月ほど続いているテストで、素晴らしい成果が出ています。そして、信じがたいことが起きたのです。このコールセンターは、たとえば、グッチで何かを購入したものの修理が必要になり、修理するか交換しなければならないといった問い合わせに対応しています。そこに電話をかけると、担当者が対応してくれます。
私はそこを訪れて、とても素晴らしいことが起きていると言われました。何が起きたのかと尋ねると、売上が30%増えたと言われました。売上が30%増えたのですか。はい。どうしてそうなったのでしょうか。そこにいたのは皆サービス担当者でしたが、今では生成AIと予測AIを備えていて、皆が能力を強化されています。彼らが私に話してくれたことによると、サービス担当者は今や営業担当者でもあり、マーケティング担当者でもあります。彼らは単に製品のサービスを提供するだけでなく、製品を販売し、顧客に価値を提供しています。それは奇跡のようなことです。彼らの士気は大きく高まりました。自分たちがこれほどのことを達成できるとは信じられないのです。
彼らは製品について、自分たちが何を知らないのかさえ分かっていませんでした。それがすべて、AIによって本当に指導され、助言され、刺激を受けていたのです。Einsteinが彼らを強化し、その結果として売上が上がり、彼らが切実に求めていた利益率も得られました。
実は、皆さんが今使っているこのアプリ、WEFのアプリも、Einsteinで動いています。
ですから、皆さんが受け取っているこれらの予測、たとえば「このAIパネルがお好きなら、こちらのWEFパネルも試してみてはどうでしょう。こちらも見てみてください」といった提案は、当社のEinsteinプラットフォームが皆さんにそのアイデアを提供しているのです。
これが本当に持つ力なのです。しかし、私たちの顧客にとって重要なのは、そしてこれは私の親しい友人であるサムと私の会社の違いでもあるのですが、お客様のデータは当社の製品ではないということです。私たちはお客様のデータを取得せず、使用もしません。私たちはデータを使ってAIを訓練することはありません。分離を保っており、信頼レイヤーがあります。私たちは顧客のデータをAIに取り込んだり、利用したりすることは一切ありません。ですから、お客様のデータは当社の製品ではないのです。これは非常に重要なことです。
当社の中核的価値もまた信頼です。信頼、顧客の成功、イノベーション、平等、そして持続可能性です。顧客のためにこうした製品を作る際には、これらの中核的価値が反映されていなければなりません。これは、当社のチームが理解することが本当に重要です。
しかし、あなたの発言とサムの発言に戻りますと、これはAIにとって大きな節目です。AIはこの1年から2年の間に大きく飛躍しました。
まさにサムの言った通りです。1、2、3、そして4と進み、その後5、6、7も来ると確信しています。
そして問題は、非常にひどい方向に進む可能性があることです。私たちはそれを望んでいません。人々が傷つかないようにすることだけを望んでいるのです。大きく間違った方向へ進むことは望んでいません。だからこそ、私たちは安全性サミットに向かっているのです。だからこそ、私たちは信頼について話しているのです。私たちは広島のような瞬間を迎えたくありません。技術が大きく間違った方向に進んだ例を私たちは見てきました。そして広島を目の当たりにしました。
AIの広島は見たくありません。今のうちにこの問題をしっかり理解しておきたいのです。だからこそ、こうした対話やガバナンス、そして私たちの中核的価値が何であるかを明確にすることが、非常に重要だと考えています。
そして確かに、顧客は利益率を高められます。そのCEOたちは非常に喜ぶでしょう。しかし、結局のところ、私たちは正しい価値観をもってそれを行わなければなりません。
ファリード・ザカリア、司会、GPS、CNN: マークがデータとデータ利用の問題を取り上げました。そこでサム、あなたに尋ねなければなりません。ニューヨーク・タイムズがあなたの会社を訴えていますが、その主張の要点は、OpenAIや他のAI企業も、ニューヨーク・タイムズの記事を入力として使い、言語予測を行っているというものです。しかもそれを過度に、そして不当に、ニューヨーク・タイムズに対価を支払わずに行っている、ということです。
結局のところ、あらゆるAIモデルがパブリックドメインにあるこうしたデータをすべて使っているのは事実ではないでしょうか。そして、新聞であれ、ジョークを書いたコメディアンであれ、そのデータを書いた人々は皆、報酬を受け取るべきではないでしょうか。
サム・アルトマン、OpenAI OpCo, LLC: その点については、多くの考えがあります。
まず、学習と、ユーザーがクエリを送信したときに表示される内容との違いから始めたいと思います。
ちなみに、ニューヨーク・タイムズとの件ですが、私の理解では、私たちは同社と前向きな交渉を進めていました。私たちは、ニューヨーク・タイムズのコンテンツを表示するために、多額の対価を支払いたいと考えていました。ですから、彼らが私たちを訴えたと知って、誰よりも驚きました。それは少し奇妙なことでした。
ただし、私たちは、ニューヨーク・タイムズを学習に使うことには前向きで、今もそうですが、それは優先事項ではありません。実のところ、彼らのデータで学習する必要はありません。人々が理解していないことの一つは、特定の一つの学習ソースが、私たちにとってそれほど大きな影響を与えるわけではないということです。
私たちが望んでいるのは、ニューヨーク・タイムズのようなコンテンツ所有者と、そして私たちがすでに他の多くの出版社と結んでいて、今後さらに増やしていく取引のような形で、ユーザーが「ChatGPT、今日のダボスでは何が起きたの?」と尋ねたときに、ニューヨーク・タイムズ、ウォール・ストリート・ジャーナル、その他の優れた出版物のような媒体のコンテンツを表示し、リンクを張り、ブランドを示して、「今日起きたのはこういうことです」と伝えることです。そして、このリアルタイムの情報を提示し、その対価を支払い、そのトラフィックを生み出したいと考えています。ただし、それはユーザーが問い合わせたときに情報を表示することであって、モデルの学習に使うことではありません。
もちろん、そのデータでモデルを学習させることもできますが、それは私たちの優先事項ではありません。そうしなくても構わないと思っています。
ファリード・ザカリア、司会、GPS、CNN: 特定のデータで学習しなくても構わないというのは分かりました。しかし、どのデータでも学習しないのであれば、学習させる事実がなくなってしまうのではないでしょうか。
サム・アルトマン、OpenAI OpCo, LLC: その次の点に入ろうとしていたところです。
私が変わると予想している点の一つは、これらのモデルが、学習過程で、より少量でより質の高いデータを取り込み、それについてより深く考え、より多くを学べるようになることです。
たとえば、高校レベルの生物学を理解するために、2,000冊の生物学の教科書を読む必要はありません。おそらく1冊、あるいは3冊で十分でしょう。しかし、2,001冊目はおそらくほとんど役に立ちません。そして、私たちのモデルがそのように機能し始めると、同じような膨大な量の学習データは必要なくなるでしょう。
しかし、いずれにしても私たちが望んでいるのは、コンテンツ所有者を含む世界全体にとって機能する、新しい経済モデルを見つけることです。物理学の教科書を読んだ人が、その学んだことを活かして後に物理学を実践することは、明らかに認められていると考えられています。しかし、あなたの教科書や授業計画を使って他の人に物理学を教えるのであれば、そのことに対してあなたが報酬を得られる方法を見つけたいと思っています。
もしあなたが私たちのモデルを教え、人間によるフィードバックを提供するのであれば、その成功に基づいてあなたが報酬を得られる新しいモデルを見つけたいと思います。
ですから、新しい経済モデルへの大きなニーズがあると考えています。現在の議論は、少し間違ったレベルに焦点が当たっていると思います。そして、これらのモデルを学習させるということが何を意味するのかは、今後数年で大きく変わるでしょう。
ファリード・ザカリア、司会、GPS、CNN: ジェレミー、あなたはあるインタビューで、米国や英国などの国々がAI競争で中国に勝つことが非常に重要だと話していましたね。その意味と、なぜそれが重要だと考えるのかを説明してください。
ジェレミー・ハント、英国財務大臣(HM Treasury): それは、私が言おうとしたことの要点を、おそらく誤って伝えていると思います。世界のAI基準を設定するにあたり、それが自由民主主義の価値観を反映していることが非常に重要だと私は考えています。
しかし、中国のような国々と話をすることも非常に重要だと思います。結局のところ、今朝の議論で最も興味深かったことの一つは、サムが「次に何が起こるかは誰にも分からない」と書いた標語を掲げている一方で、私たちは未来に対して主体性を持っている、ということだと思います。
その緊張関係こそが問題です。そして、サムのような人々が人類の未来の展望を変えることに貢献していることは、私たちが非常に幸運だと思います。この会場の誰一人として、AIが存在しない方が世界はより良くなると考えている人はいないと思います。
しかし、私たちは今、選択肢を持っています。そして私たちが行うべき選択は、それを善のための力として活用する方法です。私は実際に、それは中国のような国々と対話することを意味すると考えています。なぜなら、それが悪の力になる方法の一つは、新たな地政学的な超大国間の競争の道具になり、そこでエネルギーの多くが、私たちの日常生活を実際に変えうるものではなく、兵器に向けられてしまうことだからです。そしてそれらは私たちが行う選択なのです。そして、そうならないようにする方法の一つは、共通の基盤について、中国のような国々と対話を持つことです。
しかし、未来を予測できないことに対して謙虚であるべきだとしても、私たちは法律や規制を管理する力を持っていること、そしてこの歩みの形を決める能力を持っていることを忘れてはなりません。また、歴史を振り返ることも必要だと思います。産業革命やコンピュータ革命を見てください。それらの革命が成功した場所は、利益が社会全体に均等に広がった場所であり、少数のグループに集中しなかった場所です。
AIの場合、課題は、利益が北と南、発展途上国と先進国を含め、世界全体に広がるようにすることだと思います。そうしなければ、私の見方では、すでに私たちを間違った方向へ導いている分断をさらに深めてしまうからです。
ファリード・ザカリア、司会、GPS、CNN: ジュリー、アクセンチュアは世界中で事業を展開していますが、これについてどう思いますか。技術分野で新たな軍拡競争を生み出す可能性があると思いますか。
ジュリー・スウィート、アクセンチュア: 現実的に考えれば、データプライバシーに関する規制の違いから私たちが学んだ教訓を踏まえると、共通の基盤を見つけ、これを、そうした議論が行われている地域のいくつかと協力して活用する方法を考えることに、同じくらい時間を費やすべきだと期待したいところです。これは客観的に必要なことであり、何らかの形でグローバル化を望むのであれば、共通の標準を定めようという話です。
ですから、私の中の楽観的な側面は、これを協働の手段として活用し、地政学的な要素の一部を取り除こうと言っています。この考えには非常に強い合理性があるからです。
この会話を聞いていて思い出したのは、アクセンチュアには私が毎日意識して取り組もうとしているリーダーシップの指針があることです。それは「卓越性、自信、そして謙虚さをもって導く」というものです。
そして、ジュリー、あなたは今、謙虚であることについて話しました。私たちはリーダーとして、そして国として、この点について十分な認識を持つことが非常に重要だと思います。お互いに話し合いを続けることが大切です。これがダボスがこれほど重要な理由です。また、私たちがKPMGやPwC、そしてWEFと共に、信頼やデジタル信頼、学習や読書に関して行った取り組みも、そのために重要です。私たちは自ら学び、その上で異なる考え方を始める必要があることがたくさんあると思います。
ファリード・ザカリア、司会、GPS、CNN: アルバート、中国は、こうした問題の一部について、医薬品をどのように異なる方法で規制すると思いますか。遺伝子編集では、そのような問題がすでに起きています。有名な事例として、中国の医師がエイズを予防するために遺伝子編集を試み、その結果、国際的な条約を理由に中国政府が彼を投獄したケースがあります。AIでも同様のことが起こると想像できますか。
アルバート・ブーラ、ファイザー社: AIで何が起こりうるかは分かりません。サムが言ったように、誰にも分かりません。そして、中国が最終的にそうしたことをどう考えるのかも分かりません。
私が知っているのは、ライフサイエンスの分野で中国が非常に大きな進歩を遂げているということです。現在、中国には米国や英国、欧州よりも多くのバイオテック企業があると思います。中国政府はライフサイエンスの基礎科学の発展に力を入れていると考えており、数年のうちに、新しい分子実体の最初のものが米国ではなく中国から出てくるのを目にすると思います。
ファリード・ザカリア、司会、GPS、CNN: 最後に、少し別の質問をしたいと思います...
アルバート・ブーラ、ファイザー社: あるいは、こう言い換えましょう。米国からだけではない、と。
ファリード・ザカリア、司会、GPS、CNN: 最後に、これらすべてとは少し関係のない質問をさせてください。サム、あなたは近年で最も広く報じられた取締役会をめぐるスキャンダルの一つに関わりましたね。そこから何を学びましたか。サティア・ナデラを信頼することは別として、ですが。
ジュリー・スウィート、アクセンチュア: サム、少なくとも彼は、残り42秒というときに質問してくれていますよ。
サム・アルトマン、OpenAI OpCo, LLC: たくさんのことがありました。
何と言えばいいか考えています。
ある時点では、笑うしかないんです。物事があまりにもばかげてくると。
でも、明らかな教訓をいくつか挙げることはできます。重要だけれど緊急ではない問題を放置してはいけないということです。また、取締役会が小さくなりすぎていたこと、そして必要な経験のレベルが不足していることは分かっていました。しかし、昨年は私たちにとって多くの意味で非常に激しい一年だったので、それを後回しにしてしまったのです。
とはいえ、もう一つ重要なことがあると思います。世界がAGIに近づくにつれて、賭けられるものも、ストレスも、緊張の度合いも、すべて高まっていくでしょう。私たちにとってこれは縮図のようなものでしたが、おそらく私たちがこれまでに直面した中で最もストレスの大きい経験ではありませんでした。
そして、私がしばらく前から観察してきたことの一つは、非常に強力なAIに一歩近づくごとに、誰もの性格が「プラス10の激しさ」を得るということです。非常にストレスの大きいことであり、それは当然です。非常に大きな賭けに対して責任ある行動を取ろうとしているからです。
ですから、一つの教訓は、私たち世界全体が非常に強力なAIに近づくにつれて、奇妙なことがさらに起きると予想していることです。そのため、より高いレベルの準備と、より強い回復力を持ち、物事が間違う可能性のあるさまざまな奇妙な方法について考える時間をより多く費やすことが、非常に重要です。
この全体を通じて学んだ最も重要なことは、何よりもチームの強さについてでした。
取締役会が私を解任した翌日に、復帰について話したいかと最初に尋ねてきたとき、私の即座の反応はノーでした。というのも、そのことについて多くの点で非常に腹を立てていたからです。
そしてその後、私は冷静さを取り戻し、この事業に人生を捧げてくれた素晴らしい人々や、すべての顧客の価値が破壊されてしまうのを見たくないと気づきました。ですが、私はまた、その期間中に経営陣、そして会社全体がしてきたことを見てきたことから、会社は私がいなくても大丈夫だということも分かっていました。チームは、私が採用した人々であれ、私が指導してきた方法であれ、あるいは何と呼んでもよいものであれ、準備ができていました。
それは非常に満足のいくことでした。個人的には、私がしてきたことについてそう感じましたし、しかし、私たち全員、チーム全体が、信じられないほど高機能で結束の強い組織を築き上げてきたことを知ったことが、この全体から得た私の最も重要な学びでした。
ファリード・ザカリア、司会、GPS、CNN:ありがとうございました
テクノロジーが日々の生活にますます深く結びつき、発展と繁栄を推進する上で重要になるにつれ、安全性、人との相互作用、信頼に関する問いは、利点とリスクの両方に対処する上で極めて重要になります。
テクノロジーはどのようにして私たちの人間性を高めることができるでしょうか?
これは世界経済フォーラム年次総会2024のセッションの全編音声です
登壇者:
サム・アルトマン
最高経営責任者、OpenAI OpCo, LLC
マーク・ベニオフ
会長兼最高経営責任者、Salesforce, Inc.
ジュリー・スウィート
会長兼最高経営責任者、アクセンチュア
ジェレミー・ハント
財務大臣、英国財務省(HM Treasury)
ファリード・ザカリア
司会、Fareed Zakaria GPS、CNN
アルバート・ブーラ
最高経営責任者、ファイザー社
すべてのポッドキャストは次でご覧いただけます wef.ch/podcasts:
YouTube: https://www.youtube.com/@wef
ラジオ・ダボス - 購読: https://pod.link/1504682164
ミート・ザ・リーダー - 購読: https://pod.link/1534915560
アジェンダ・ダイアローグ - 購読: https://pod.link/1574956552
世界経済フォーラム・ブッククラブ・ポッドキャスト - 購読: https://pod.link/1599305768
次のコミュニティにご参加ください 世界経済フォーラム・ポッドキャストクラブ: https://www.facebook.com/groups/wefpodcastclub



