このトランスクリプトは音声認識ソフトウェアを使用して作成されており、誤りが含まれている可能性があります。音声と照らし合わせて正確性をご確認ください。
Ina Fried、Axios チーフテクノロジー特派員: おはようございます。世界経済フォーラムのサンフランシスコでのAIガバナンス・サミットへようこそ。また、ライブ配信でご参加の皆様にもご挨拶申し上げます。ソーシャルメディアで共有される場合は、ハッシュタグ #AI23 をご使用ください。
Axios のチーフテクノロジー特派員の Ina Fried です。皆様を、きっと素晴らしい議論になると確信しているこの場にお迎えできることを大変嬉しく思います。
皆様ご承知のとおり、ChatGPT が私たちの生活を一変させてから約1年が経ちました。しかし、それが何を意味するのか、今後何を意味することになるのかについて、私たちは今もなお理解しようとしている段階だと思います。
今回は、事前の打ち合わせでも話題になったとおり、多彩なパネリストの方々にご参加いただけることを大変嬉しく思います。それぞれ非常に異なる視点を示していただけると思います。改めて申し上げると、私たちは皆、これが自分にとって何を意味するのか、自分の仕事にとって、自分の地域社会にとって、自分の文化にとって何を意味するのかを理解しようとしています。掘り下げるべきテーマは多くあります。
議論に入る前に、世界経済フォーラム第四次産業革命センター所長であるジェレミー・ユルゲンス(Jeremy Jurgens)を壇上にお迎えし、いくつかご挨拶をいただきたいと思います。その後、議論を始めます。
Jeremy Jurgens、マネージング・ディレクター、世界経済フォーラム ジュネーブ: ありがとうございます、Ina。そして、ここにお集まりいただいた皆様に感謝申し上げます。本日のAIガバナンス・サミットには250名以上の方々にご参加いただいています。世界経済フォーラムが特定の取り組みを中心にサミットという形で一堂に会するのは、今回が初めてです。その取り組みとは、私たちの AI ガバナンス・アライアンスです。
これは今年初め、4月に100名を超える一流の専門家が集まった会合を受けて設立しました。その議論を通じて、この技術がいかに急速に進化しているか、経済や社会、人々の生計に劇的な影響を与えうるかを理解しました。また、世界トップクラスの専門家の間でさえ、どのように導き、あるいは統制し、必要な安全メカニズムを整えるのか、そして、リスクと機会のバランスをどう取りながらガバナンスを行うのか、さらに、そこから生まれうる技術革新の利益を十分に活用し引き出すには何が必要なのか、その理解がいかに限られているかも分かりました。
そうした議論を踏まえ、私たちはプレシディオ原則(Presidio Principles)を公表しました。これは、ビジネスリーダーだけでなく、政策立案者、市民社会団体、学術関係者からも大きな注目を集めました。そして、その流れの中で AI ガバナンス・アライアンスを設立しました。
したがって本日は、ここで取り上げた各分野について理解を深め、掘り下げていく取り組みにおける次の一歩となります。安全性については、どのような役割があり、どのような技術的要素を整備する必要があるのかについて議論します。ガバナンスについては、最近の米国からの発表、英国のブレッチリー・パーク、広島プロセスなど、これまでの議論を踏まえています。多くの異なる法域が、このガバナンスの枠組みを模索しているところです。
そして重要なのは、この技術がもたらす機会を見失わないことです。それは先進国に限られたものではありません。米国がリードしており、中国も明確な役割を担っています。しかし、その恩恵を開発途上国、さらには他の先進国にも確実に行き渡らせるにはどうすればよいのでしょうか。そうした国々は、現時点では必要なトレーニングを行うために自国のモデルを構築する能力を持っていないかもしれません。
これから2日間にわたり、これらすべてのテーマを取り上げていきます。改めて、本日の議論、そして明日のより詳細な技術的議論にご参加いただき、皆様のご貢献に感謝申し上げます。この新しい時代を、ともに歩んでいくことを楽しみにしています。ありがとうございました。
Ina Fried: ありがとうございます。私たちが同時に議論しようとしている最も重要な三つの論点を、まさに押さえていただいたと思います。この非常に強力で、非常に速く進化している技術を、どのように活用するのか。その限界、リスク、バイアスをどのように認識するのか。そして、私たち人間自身をどのように変えていくのか。皮肉なことに、私たちが最も容易に意思疎通できる技術、ついに私たちの言語を話すようになった技術が、これまで私たちが習得してきたどのプログラミング言語を学ぶことよりも大きな変化を必要とするかもしれません。
各パネリストの専門知見も伺いたいと思います。まずはガン大臣からお話しいただければと思います。ガン大臣、公共部門の視点から、どのように考えておられるかをお聞かせください。それはどのような意味を持つのでしょうか。シンガポールは、技術やビジネスの面で多くの点において、明らかに最先端を走ってきました。この1年間に私たちが目の当たりにしてきたことを、どのようにご覧になっていますか。
Gan Kim Yong、貿易産業大臣、シンガポール: ありがとうございます。まず、このフォーラムにお招きいただいたことに感謝申し上げます。シンガポールは非常に特殊な状況にあります。一部には、人的資本が非常に限られているためです。そのため、AI は私たちの人的資本を補強することを可能にすると期待されています。また、現代の多くの課題を解決することも期待されています。
しかし同時に、管理すべき新たなリスクももたらします。スピードと技能を伴ってコンテンツを生成できる能力は、新たなリスク要素を生み出します。例えば、偽ニュースによる誤情報や偽情報のリスクが高まる可能性などです。また、悪意を持つ者によって利用される可能性もあります。この技術の適切な利用をどのように促していくかについても、私たちは検討する必要がある分野です。
しかし、適切に活用すれば、経済、社会を向上させ、労働力がさらに良い成果を上げられるよう力を与える能力があります。
私たちの経験から言えば、AI を受け入れたいと考えており、シンガポールは国家戦略を最初に展開した国の一つです。これは2019年に策定され、AI のイノベーション能力を構築するための投資を継続しています。
しかし、生成 AI の登場により、かつては不可能と思われていたことを考えられるようになったという点で、より刺激的な時代になっています。同時に、AI 開発のガバナンスにおいては、特別な注意を払う必要もあります。
三つの特定の分野で、シンガポールの経験を共有させてください。
第一に、生成 AI の可能性を十分に受け入れるためには、企業と人材の準備に重点を置く必要があると考えます。これは非常に重要です。なぜなら、それによってデジタル格差が拡大するリスクを最小限に抑えられるからです。ですから、企業の変革を支援し、デジタルツールを提供するとともに、生成 AI の可能性を活用するために必要な支援を提供することが重要です。
同時に、労働者が生成 AI を活用して成果を上げるために必要なスキルを身につけられるようにする必要もあります。最近の未来の仕事に関する報告書によれば、シンガポールの労働者は、AI の導入に適応する速度と、その実装で成果を上げるために必要なスキルを習得する能力の両面で、世界で最も速いグループの一つであることが分かっています。したがって、企業と人材を準備することは、AI を活用するうえで私たちにとって極めて重要です。
第二に、技術の発展と進化の速度が非常に速いため、AI 開発のガバナンスにおいても、柔軟で機動的かつ実践的なアプローチを採用する必要があります。万能型の規則や規制は非常に難しいものです。なぜなら、規則や規制を導入するころには、技術はすでに先へ進んでいるからです。ですから、異なるアプローチを取り、機動的で実践的な方法を持つことが重要です。そのため、シンガポールは AI Verify と呼ばれる取り組みも展開しました。これは、AI システムの開発者であり所有者である私たちが、AI システムのガバナンスを検証し、実証するための試験ツールです。このように、私たちは新しい環境に合わせて進化し、適応し続ける必要があります。
第三に、多国間の協働プラットフォームを通じて、集団として結束することも重要です。このようなプラットフォームは、私たちが見解や経験を共有し、AI がもたらす課題と機会に集団として向き合うことを可能にします。
結局のところ、生成 AI の可能性と恩恵を認識するのと同時に、それに伴うリスクも認識しなければならないと考えます。この課題に正面から向き合い、技術の発展を集団で方向づけるために、私たちは世界的なコミュニティとして結束することが重要です。そうすることで、公共の利益のためにこの技術を前進させ、安全かつ確実な方法で進めることができます。
Ina Fried: ガン大臣、ありがとうございます。シンガポールが自国の立ち位置をどう捉えているか、そして取り組んでいるプロジェクトについて、今後さらにお話しいただける機会があることを願っています。
コラー博士、あなたは技術分野についての広範な知識を持ち、私たち皆がこれが何であるかを認識する以前から、AI の分野で活動してこられたと思います。そこで伺いたいのですが……昨年、私たちがこれを理解し始めるずっと前からAIに取り組んでこられた方として、一つ印象的だったのは、AI は新しいものではないということです。私たちが目指している多くの場所は、数十年にわたり研究者やSFによって描かれてきたという考え方です。
しかし、今日私たちが到達した技術の形は、多くの人、特にこの分野の多くの人々を驚かせました。今になって生成 AI が前面に出てきたことは、ほかの技術と比べて何を意味するのでしょうか。私たちが分析し予測しようとしている、ほかの多くの AI や機械学習の仕組みと比べて、多くの人がこれを「強化された自動補完」と呼んでいます。この技術がもたらす結果は驚くべきものです。しかし、その仕組み上、できることには何らかの限界もあるのではないかと思います。
私たちがどのようにしてここまで来たのか、手短に説明していただけますか。これがこの技術だというのは、どういう意味なのでしょうか。そして、今後この技術とどのように向き合っていけばよいのでしょうか。
Daphne Koller、創業者兼最高経営責任者、Insitro Inc: まず、ここにお招きいただきありがとうございます。お話しできることを嬉しく思います。そして、そうですね、私はいわば「OG AI」の人間と呼ばれるような者です。この分野が形成され始めた1990年代初頭から関わってきました。また、この分野で最大規模の AI カンファレンスの議長を務めたことがあり、私がプログラムチェアを務めた年には参加者が1,000人に達しました。当時はそれが大きなイベントだと考えていたのです。このことからも、物事がいかに速く進化してきたかがお分かりいただけると思います。
私たちが生きている技術の歩みを見ると、明らかに指数関数的な変化の only 中にあることが分かります。そしてそれこそが、将来を認識し予測することを難しくしている理由だと思います。指数関数的な曲線は、初期段階では、能力が倍増するまでに長い時間がかかります。つまり、その能力が何であれ、しばらくはゆっくりとした直線的な曲線の上を漂うように進んでいるのですが、やがて突然加速し始め、「おっと、一体何が起きたのか」と言うことになるのです。
そして私は、今がまさにその変曲点にあると考えています。私たちは、実はずっと指数関数的な曲線の上にいたのに、突然それに気づくのです。ただ、それに気づいていなかっただけなのです。そして、その指数関数的な曲線は、同時に重なり合った三つの大きな波によって可能になったと思います。
一つ目は、私の考えでは最も重要なものです。これについては、今後の方向性を論じる際に改めて触れますが、データの利用可能性です。
私がこの分野に入った頃、大規模なデータセットといえば数百サンプル程度でした。それを持っているだけで幸運だと感じたものです。今では、文字通り、ウェブ上のテキストや画像、そして次第に音声や動画などが膨大に増えています。このような量のデータがあるからこそ、今私たちが目にしているようなモデルを訓練することができるのです。データがなければ、あらゆる方法論上の革新も、実際には何の意味も持たなかったでしょう。当時その場にいたので、それがよく分かります。
二つ目は、もちろん、データ量によって可能になったものです。データを多く与えるほど、より洗練された、より複雑なモデルを訓練できるようになり、それらのモデルは次第に強力になっていきます。これは、技術がデータの豊かさに対応するように適応してきたことの組み合わせによるものです。
そして三つ目は、もちろん、必要なときに利用できる計算資源です。これも、はるか昔には持ち合わせていなかったものです。
こうした三つの要素が組み合わさることで、私たちが今目にしている驚くべき進歩の加速が可能になりました。では、なぜ生成 AI が主流を占めるようになったのかについては、答えるべき要素が二つあると思います。
一つ目は、単純に、人々にとって非常に理解しやすく、親しみやすいことです。コンピューターが話し返してくれるというのは、ほかの、もしかするとそれほど直感的ではない応用とは異なる形で、人々に素晴らしい体験をもたらします。それが、私たちが目にしていることの一部だと思います。しかし、それは一部にすぎません。
もう一つは、ほぼすべての人にとって驚きだった観察です。この「強化された自動補完」という仕組みが、次に来る単語が何になるのかを非常にリアルに予測するよう、モデルを強いる、ほぼ一種のバルーンのようなものを作り出しているということです。
そのタスクを非常に高い精度で行うために、モデルがどれほど多くの表現、どれほど多くの世界の表現、どれほど多くの推論を学習する必要があるのか。
ですから、それは重要な教訓だったと思いますし、確かに、ほかの問題をどのように解決するかという考え方にも広がっています。つまり、自動補完のような非常に価値の高い代理タスクを定義し、それと十分なデータを組み合わせて、特定の領域において意味のある何かを実際に学習するモデルをつくるという、さまざまな要素を組み合わせることです。
そして、私のように、データが乏しい領域で仕事をしている者にとっては、常にどこからより多くのデータを得るか、あるいは生成するかを考え続ける必要があります。私の仕事では、データを印刷しています。そのような状況で、これらの手法の組み合わせによる驚くべき力を活用するには、どのようにして十分なデータを生み出せばよいのでしょうか。
Ina Fried: コラー博士、あなたは、この全体の中でも本当に重要な要素の一つに触れてくださったと思います。つまり、これらの生成モデルが実際に何であり、何を実現するのかというと、これまで何らかの専門的なコミュニケーション形式を必要としていた非常に複雑なタスクを、取り扱えるようにすることなのです。例えば、一部の人にとってそれは Photoshop で写真を編集することでした。非常に特定のツールの使い方を知っている必要がありました。しかし今では、ただ自分が望むものを説明するだけでよいのです。
OpenAI は先週イベントを開催し、カスタム GPT を構築できる機能を発表しました。私は開発者向けカンファレンスに頻繁に参加していますが、そこから帰宅して何かを構築することはめったにありません。過去には、私が持っていない知識が必要とされていたからです。しかし、今回の開発者カンファレンスから帰宅した後、本当に役立つツールをいくつか作ることができました。
それを通じて思い出したのは、ChatGPT はある意味で「手品」のようなものだということです。これは入門であり、チュートリアルなのですが、これらのモデルの力は、世界全体に対する推論だけにあるのではありません。特定のデータセットに対してその推論を用いるとき、非常に強力なものになりえます。例えば私の場合、来年のオリンピックの取材計画を立てるために使いました。ここで、Sabastian にお話を伺いたいと思います。なぜなら、Salesforce は、企業がこれをどのように活用するかの最前線の一つを担ってきたからです。ビジネスには、当然ながら異なる関心事があります。
例えば、私が自宅で自分のデータを使うのであれば、それは一つのことです。私は IT マネージャーであり、CEO であり、そのすべてを兼ねています。ですから、自分で決めることができます。しかし、企業が自社のデータを使い始めると、非常に難しくなります。Salesforce は一年を通じて、多くのツールを展開してきました。その多くは、非常に限られたプログラムの中で提供され、多くのフィードバックを得られるようにしているものです。私は、すべてのツールを発表するイベントに参加してきました。多くの場合、これらのシステムに大量の情報を生成させることに大きな重点が置かれているようですが、システムに行動を取らせることはせず、その判断は人間に委ねられています。
私の推測ですが、あなたは最高法務責任者ですので、私が正しいかどうかご存じかもしれません。その理由は二つあると思います。一つは、ベストプラクティスだということです。私たちはこれらのシステムをそれほどよく理解していません。それはベストプラクティスですが、同時に、責任を、ソフトウェアを提供する企業ではなく、それを使う個人に移すことにもなります。では、現状について教えてください。この最初の一年で、何ができてきたのでしょうか。まだ取り組んでいる懸念にはどのようなものがありますか。最前線にいる企業として、今、企業が自社データに対してこれらのツールを使えるようになっている状況は、どのような段階にあるのでしょうか。
Sabastian Niles、社長兼最高法務責任者、Salesforce, Inc: もちろんです。ありがとうございます。皆様とここでご一緒できることを嬉しく思います。
いくつかの角度からお話しさせてください。まず、あなたのコメントに呼応して申し上げると、AI は基本的に新しいものではありません。しかし、この指数関数的な変化は、これ以上重要な時期には訪れえなかったとも言えます。
私たちは、企業には今、かつてないほど AI が必要だと考えています。政府、市民、利害関係者にも、かつてないほど AI が必要です。そして、社会全体にも必要だと考えています。
では、何が必要かとはどういう意味でしょうか。まず、私たちは恩恵が必要です。そして、関連するリスクを考慮しながら、どのようにしてその恩恵を実現するのかということです。
Salesforce を見てください。私たちは、おそらく2014年頃に、AI 研究に非常に大きな追加投資を行うことを決定しました。顧客とともに取り組み、私たちは予測型 AI を中心に AI 時代を切り開いている企業と見なされるようになりました。そして、Einstein を2016年に発表し、その後、数兆件もの予測を行いました。次に取るべき最善の行動は何か。X-Y-Z です。
あなたが指摘した面白い点、つまりまだ完全には展開していないという点は、自律的な活動、自律型エージェントのことを指しているのですね。私たちは、予測の時代、生成の時代、自律の時代があると考えており、その後に来る可能性のある未来の時代についても話すことができます。
付け加えると、私たちが Einstein GPT と呼ぶものの概要を示していたとき、一つの構想は、人々がスキルを構築できるようにできないか、というものでした。顧客や開発者が、さまざまなソフトウェアや技術を用いて作成したいと望むスキル、行動、能力とは何か。この点については、今後さらにお伝えできることがあります。
また、少し引いて見ると、Salesforce やその他多くの企業、機関、そしてもちろん政府にとっても、信頼が最優先されなければならないと考えています。私たちの中核的な価値観は、信頼を第一に、顧客の成功、イノベーション、平等、持続可能性です。
今、適切な問いを投げかけることで、私たちが避けられない未来ではなく、私たちが望む未来を創ることができるようになります。信頼を第一とする取り組みをどのように確保するのか。責任、倫理、適法性という概念を、私たちが指数関数的な機会と考える技術の利用、開発、展開の中にどのように組み込むのか。そして、それを早い段階から組み込むにはどうすればよいのか。
この AI の革命は、いわば信頼の革命であり、また信頼の革命でなければならないと考えています。そして私たちは、顧客の声や規制当局などの意見に耳を傾けながら、「トラストレイヤー」と呼ぶものを設計しました。トラストレイヤーとは何か、データを考慮しながら、どうすればそれを安全かつ効果的なものにできるのかという考え方です。データの品質、完全性、データのセキュリティについて考えるとき、そして、リスクを緩和し監視することを考えるとき、同時に、根本的にリスクを理解することも重要です。
生成 AI のこの新しい段階が発展する中で、私を驚かせたことは二つあります。一つ目は、私たちが、この新しい技術を多様な利害関係者の視点から見る必要があることを、いかに速く認識し受け入れたかということです。私はそれが非常に速かったと感じています。学術界、市民社会、民間部門、公共部門、人間、従業員、労働力とどのように連携するのか。この多様な利害関係者によるアプローチが必要だという考え方は、私たちが Salesforce の広範なエコシステムの中で、常に考えてきたものです。ビジネスは、最も深い影響を持つ仕組みとなり、前向きな変化を推進しうるのです。
もう一つの要素は、政府と規制に関するものです。ちなみに、私は、政府にとっての大きな機会の一つは、住民の体験をどのように向上させるかだと考えています。AI によって、企業が顧客とやり取りする方法が変わり、やがては企業同士のやり取りも変わっていくでしょう。しかし、私たち一人ひとりが地域社会の中の人間として、どうなるのでしょうか。AI と技術を使って、住民の体験をどのように改善できるでしょうか。それは公共部門にとって、素晴らしい機会だと思います。
そこで、もう一つの驚きは、やはり多様な利害関係者の視点が重要であり、多様で異なる声を取り込まなければならないということです。そして、民間部門と公共部門の協働が必要であり、それによって非常に速く、かつ慎重に前進できるということです。
法の状況全般、そして法の理想的な役割について考えるとき、私たちは AI を使って、賢明な意思決定の速度を加速する方法を見つける必要があります。速さそのものを目的としてはなりません。
また、私がこれから紹介しようとしているもう一つの概念は、私たち皆が本当に楽しみにしている、AI を正しく活用できた場合に生まれうる「ムーンショット」的な機会です。さまざまな健康状態の診断や、教育の成果の実現などです。こうした非常にわくわくするアイデアが、次々と挙げられるのです。
私個人、そしてSalesforceとして実際に取り組んでいることについて申し上げると、規模を考えたときには、少し地味ではあるものの、はるかに重要だと私が考えるテーマについてお話ししたいと思います。社会における過ちの問題についてお話ししたいのです。最良のもの、つまり最良の医療、最良のテクノロジー、最良のソフトウェアにアクセスできない人々がいるという不平等の問題についてもお話ししたいと思います。
SDGsの達成に全員で取り組めたらどうでしょうか。SDGsのそれぞれの目標は、すべての人が利用できるべきだと私たちは考えていますよね。AIを使って、単に月面着陸のような壮大な目標を追うのではなく、「底上げ」を図ることができたらどうでしょうか。もちろん、誰もがその壮大な目標に投資し、注力するでしょう。しかし、人々に深刻な影響を与えながら、ほとんど書かれることも注目されることもない過ちが起きる可能性と、その影響を減らすために底上げを考えてみてはどうでしょうか。あらゆる分野、あらゆる地域で底上げするというこの考え方は、非常に大きな機会だと私は考えています。
また、正確性、信頼性、倫理、責任というこの問題について、もう一つお尋ねしたいことがあります。私たちは皆、これらのモデルにおけるハルシネーション(幻覚)を非常に懸念しています。しかし、私がまだ十分に耳にしていないのは、これらのハルシネーションはどの程度まで、バグではなく機能なのか、という点です。つまり、私たちが喜んでいる新しいコンテンツを生成する能力そのものに、新たな倫理的問題の数々を生み出す要素があるのではないか、ということです。正確性、少なくとも透明性は必要ですが、単に完全に誤っている場合もあります。このハルシネーションの要素は、この技術が新しいアイデアを創出し生成する仕組みの一部なのでしょうか。そして、それにどう対処すればよいのでしょうか。Salesforceでは、信頼レイヤーなどの構築にあたり、そうした機会と課題のいくつかにも取り組もうとしています。
Ina Fried: 今回お話しいただいた課題の多くは、これから詳しく掘り下げていくものです。ただ、リスクと利点について議論する前に、取り上げておくべきもう一つの重要な要素があります。Koller博士が指数関数的な変化と表現して触れた点ですが、それはスピードです。
すべての進展がどれほどの速さで進んでいるのかについて、少し時間を取って話す必要があります。多くの人々が適応できる速度を超え、ましてや制度が適応できる速度を超えて、物事が変化していると私は考えるからです。これほど速い技術にどう対処すればよいのでしょうか。
AIや生成AIは、しばしばテクノロジーにおけるその他の大きな転換と比較されます。コンピュータ革命があり、インターネットがあり、スマートフォンがありました。これらはいずれも大きな転換と変化でした。しかし、少なくともそれぞれの技術の波を取材してきた立場から言えば(私は幸運にもそのすべてを取材する機会を得てきました)、変化のペースはそれほど速くはありませんでした。非常に大きな転換ではありましたが、その転換を成し遂げるにはかなりの時間がかかりました。また、その転換を支えていた技術自体も、それほど速く変化していたわけではありません。その一因は、それがハードウェアだったことにあります。
この1年間、これがどれほど速く進んでいるかに、私は驚かされてきましたし、今もなお驚かされ続けています。ある企業とその今後の方向性について話をしても、3か月後には劇的な進歩が見られるのです。最近の会議で見た一例では、1年前にMidjourneyで同じプロンプトを入力した結果のスライドが示されていました。それは私の両親が持っているかもしれないシャガールの絵のような、非常に興味深く芸術的なものでしたが、私たちの誰もthat現実的だとは呼べないものでした。ところが今日、同じプロンプトからは写真のように現実的なものが生成されます。生成AIの他の種類でも同様です。
私の質問は――まずJeremyに伺いたいと思います。フォーラムでこの件を担当されているからです――私たちはこの変化の速度に追いついていけるのでしょうか。Sebastianが話しているすべての取り組みを実現したいと思っても、私たち人間が許可するものと許可しないものについて、過ちを犯してはなりません。あなたは過ちについて話しています。私たちは、人間として何を許可し、何を許可しないかにおいて、過ちを犯してはならないのです。
そこで、皆さんがどのようにお考えなのかを伺いたいのです。この意見に異論のある方、つまり変化のペースはそれほど速くないと考える方がいれば、ぜひお聞かせください。しかし、これほど速く変化している技術にどう対処すればよいのでしょうか。
Jeremy Jurgens: 素晴らしい質問です。これは私たちが非常に注力してきたテーマです。
この1年間、ChatGPTの公開前の段階で、子どもたちとMidjourneyで遊んでいました。それがまだ一般的になる前のことでした。私は「なるほど、かなり面白いし、すごい。ここにPhotoshopはもう必要ないな」と思ったのを覚えています。
昨年秋にChatGPTが公開されると、突然、人々が目を覚ましたようになりました。AIが新しかったわけではありません。AIは以前から存在していました。それは、企業がデジタルトランスフォーメーションにどう取り組んだかを私に少し思い起こさせるものでした。
すべての企業がデジタルトランスフォーメーションに取り組んでいた時期があり、ある時点でそれが主流になりました。人々はそれを当たり前のものとして受け止めました。最高デジタル責任者を任命し、その後は、ESGやサステナビリティといった別のテーマへと移っていきました。この1年間は、すべての企業がAIに注力しており、そこには一種のハイレベルな要素があります。
しかし、スピードにどう対処するかという点に戻りましょう。組織の内部だけでなく、社会全体においても重要だと考えています。なぜなら、そこには多くの恐れが伴うからです。キラーロボットや災害といった話を耳にしますが、それは大げさに誇張されています。私がむしろ非常に懸念しているのは、デジタルの安全性、包摂性、さらには、遠い将来ではなく今すぐ心配する必要がないはずの、ごく基本的で単純な事柄について、既に社会にある不均衡をさらに悪化させることです。
これらに対処するにあたり、私たちが最も重視しているのは包摂性です。ここではマルチステークホルダーについて話し合いましたが、インドでの取り組みを一例としてご紹介したいと思います。私たちは、インドの小規模農家のために、農業イノベーションにAIをどう活用できるかを検討してきました。インドでは、人口の半分以上が農業に従事しています。米国の人口のほぼ2倍にあたります。そして、その農家の85%が、2ヘクタール弱の土地を管理しています。つまり比較的小さな農地であり、その多くは限られたアクセスしかありません。携帯電話を持っていない人も多いのです。では、どうやってその人々の利益のためにテクノロジーを活用するのか、ということになります。
最初に取り組んだ場所の一つは、実は農家協同組合を通じて、農家の人々を議論に参加させることでした。スタートアップを招き、インドで農業生産の最前線にある大企業も招きました。外国の多国籍企業も招きました。政府も、農学者なども招きました。
その議論には時間がかかりました。1年以上を費やしたのです。しかし、そのプロセスの中で、あなたが言及した「信頼」という言葉があります。その信頼は、はるかに大きなエコシステムを対話に含めることから生まれたのです。どこかの企業が「素晴らしい解決策があり、すべてを解決します」と宣言するだけではありませんでした。私たちは、バリューチェーンのあらゆる段階にわたって、農家の方々を最初から関与させたのです。
Ina Fried: この点について少し踏み込んでお聞きしたいと思います。一方で、その機会は素晴らしいものです。携帯電話の革命を思い出すと、自給自足の農家に対して、彼らが何を植え、いつ植え、どの市場に行くかといった判断が、以前は非常に大きな意味を持っていました。インドやアフリカの自給自足の農家に、ある日どの市場まで歩いて作物を売りに行かなければならないかを伝えられるようになったことは、大きな違いを生みました。どの市場がより高い価格を提示しているかが分かれば、それは家族を養えるかどうかの違いになります。ですから、より多くのデータを持ち、農家がほとんど質問するだけで済むような会話の形でそれを届けられることは、素晴らしいことです。
しかし、あなたに異論も投げかけたいと思います。1年以上にわたって話し合いを続けてこられたわけですよね。その間に技術が変化していたと思います。では、どのように長期的な対話を行い、どのように信頼を築き、結果として「1年前には最善だったけれど、今日では期待ほど関連性がないもの」にならないようにするのでしょうか。
Jeremy Jurgens: 速度については、少し異なる見方をしたいと思います。研究室の中では速度は非常に速く進んでいます。しかし、実際の展開にはより多くの時間がかかります。
私たちは非常に複雑な政治システムと経済システムの中で活動しています。医療の問題を例にとってみましょう。確かに、ChatGPTなどで診断を受けることはできます。問題は、クレジットデータやTwitterのデータ、Xのデータなどを組み合わせた情報から診断を読み取られたいと思う人が、どれほどいるか、ということです。検証され、確認され、信頼できる情報源と比べてどうでしょうか。
私たちには、この件に関して主体性があります。いつその技術を使うかを決める主体性があるのです。また、使わないと意図的に判断し、その判断を他者に委ねない主体性もあります。ですから、非常に速く進むものを乗りこなす中では、速度を十分に落とし、意識的に物事を進めることが重要だと思います。流れに押し流されるままにならないことです。そうすることで、より多くの恩恵を得ることができるのです。
インドの農家の話に戻ると、7,000人の唐辛子農家を対象に最初のパイロットを実施したところ、収穫量と市場への出荷までの時間が改善し、肥料の使用量が減少しました。肥料には費用がかかり、特に最近のエネルギー危機の中ではなおさらです。そして、農家一人ひとりの収益性も向上しました。現在は、この取り組みを他の州にも広げることを目指しています。ただし、「では国全体にすぐ展開しよう」というわけではありません。農業省と協力し、60万の農家協同組合と連携しています。段階的なアプローチを取っているのです。そして、その基盤となる枠組みは、技術が今後も進化し続けることを前提として構築されているため、新たな展開が生じたときには、それを取り入れることができるでしょう。
ここでも、スタートアップはそうした議論において重要な役割を果たすと考えています。なぜなら、彼らは大企業よりもはるかに速く動いていることが多いからです。ただし、その恩恵をすぐに大規模に拡大できる能力を必ずしも持っているわけではありません。
ですから、より広範なエコシステムを意識的に含めれば、個人の主体性を尊重すれば、途中でリスクを緩和しながらも、恩恵を活かせると私は楽観的に考えています。
Gan Kim Yong: 私はもう少し異なる視点を持っています。テクノロジーには大きな可能性があり、多くの問題を解決できると思います。しかし、それ自体が解決策なのではありません。単なる実現手段だと思います。
たとえば、作物の収穫量を改善するにはどうすればよいか、この種類の作物にはどの肥料が最適か、種をまき収穫するのに一年のうちどの時期が最適かといった質問に、私が答えを提供できるとします。このように、テクノロジーとAIは、そうした解決策や答えを見つける手助けをすることができます。
しかし、農家の人々がより良い生活の質を享受できるようにするには、社会経済的な問題や地政学的な問題を含め、他の多くの要因が関わってきます。また、たとえ最良の収穫量が得られたとしても、物流とサプライチェーンが整っていなければなりません。ですから、この問題を解決し、現場の人々に良い成果を届けるには、問題のさまざまな側面を見ることが必要です。
ですから、それは良いツールだと思いますが、成果を届けるためには、その他すべての措置と組み合わせて使う必要があると思います。
Ina Fried: Jeremy、あなたが提起した点についても、他の皆さんと話したいと思っていました。私は、ChatGPTに入力して大きな医療上の判断を任せたいとは決して思いません。しかし、それこそが多くの人々が生成AIについて抱いている根本的な誤解の一つだと思います。ChatGPTに入力すれば奇跡のような回答が返ってくると期待することですが、私自身は必ずしもそれを望んでいるわけではありません。むしろ、10年前に医学部を卒業した私の医師が、非常に質の高いデータで学習されたツールにアクセスできることを望んでいるのです。Redditのような場所や、インターネット上で言われたことすべてではなく、医療に関する情報です。ちなみに、ネタばらしをすると、明日私のニュースレターを読んでいただければ、このことがもっと理解できるでしょう。ところで、このインターフェースと、これらのモデルが非常に専門的なデータと組み合わさることは、どれほど強力なのでしょうか。Koller博士はAIと医療の両方に携わっておられるので、まずあなたから伺いたいと思います。特に医療の分野で、このインターフェースやモデルと非常に専門的なデータを組み合わせることは、どれほど強力なのでしょうか。
Daphne Koller: 素晴らしい質問です。実は、人と計算機の相互作用こそ、私たちがもっと重視すべきものだと思います。最近の研究では、その技術を単独で導入することも、人と組み合わせて導入することもできることが示されました。どちらも正当な生産性の向上です。しかし、計算機と人が協力すると、効率の向上ははるかに大きくなります。また、信頼の喪失やハルシネーション、その他のリスクといった問題を避けられる可能性もあります。技術を単独で導入すれば、そうしたリスクにすべてぶつかることになります。
私の分野では、「XYZのための、完全にエンドツーエンドのAIシステムを初めて開発しました」という言葉をよく耳にします。しかし私の質問は、それは本当なのか、そしてそれは何を意味するのか、さらに仮にそれがあったとしても、それは本当に良いことなのか、ということです。そこが私が疑問を投げかける点です。
さて、あなたが尋ねたもう一つの側面についてです。私は、非常に質の高いデータで学習された特化型エージェントを作る必要が明らかにあると思います。Redditのようなものではなく、Xのようなものでもなく、それ以外の何かでもありません。データを丁寧にキュレーションし、それが真実を表していることを確かめる必要があります。場合によっては、データを生成する必要もあります。データを統一し、整理する取り組みにも投資する必要があります。機械学習では、昔から「ゴミを入れればゴミが出てくる」と言われてきました。しかし、AIが強力になるほど、データ内の誤った情報や不正確な情報に固執し、それを増幅させることも上手になっていくのです。
ですから、テキストであれ画像であれ、その他何であれ、中核となる表現を生み出す基盤となる生成AIモデルの上に、私が「アプリのエコシステム」と呼ぶものを構築していく中で、それらのアプリに適切で高品質なキュレーション済みデータを備えさせることが重要です。私に聞かれれば、価値は基盤となる基礎モデルと、これらの垂直型アプリケーションとの間で、非常にうまく分配されるだろうと思います。垂直型アプリケーションは、人間からの適切なフィードバックと入力を用いて、高品質なデータに基づき、分野特有の方法で非常に慎重に訓練されるべきものです。
Ina Fried: あなたは、この技術の力と、その限界について話されました。それは、データに基づいて、非常に優れた洞察を生み出すことができるが、その洞察は手元のデータに依存しているということです。こうしたシステムの多くは、インターネット全体で学習されてきました。
リスクについて話すとき、その多くは次の事実に関係していると思います。インターネットやデータは人間によって作られ、機械によって処理されていますが、そこには私たちのすべての偏見が含まれています。分断へのあらゆる傾向も含まれており、現代世界を悩ませているその他すべての問題も、インターネット上に色濃く反映されています。
この技術がまだ黎明期にある今、私たちがこれらの限界を認識することはどれほど重要でしょうか。バイアスはどの位置づけにあるのでしょうか。Sebastian、あなたは今、これらすべてのリスクに向き合っていますよね。当然、それらに優先順位を付けなければなりません。バイアスはどこに位置づけられるのでしょうか。所得格差はどこに位置づけられるのでしょうか。Jeremyが言っていたように、ロボットが世界を支配するという話が多く語られる中で、それらはどう位置づけられるのでしょうか。私はいつも、人々にそれらの議論を分けて考えるよう提案しています。どちらも語る価値のある議論だと思います。しかし、「ああ、でもロボットが私たちを殺すだろう」と言っている中で、誤情報、バイアス、所得格差といった近未来の懸念について、本当に語ることはできません。
ですから、ロボットが私たちを殺すことへの恐れについて、特別な時間を割くべきだと思います。その可能性について語り、それを可能性として認識すればするほど、その可能性は低くなると私は考えます。しかし同時に、ここに存在している他の問題もあると思います。それらは今まさに存在しています。誤情報は、私のリストの最上位にあるかもしれません。
では、どのように前進すればよいのでしょうか。次に、同じ質問についてGan大臣にも伺いたいと思います。これらのリスクをどう認識し、それらに対処しつつ、どのように前進すればよいのでしょうか。バイアスをなくすことはできませんし、所得格差をなくすこともできません。どのように前進すればよいのでしょうか。あなたは先ほど、底上げについて話されました。それは確かに一つの方法です。
Sabastian Niles: この点を提起していただいたことは非常に重要だと思います。まさに、私たちがもっと多くの時間と資源を割くべき種類の議論であり、そうした解決策に注力すべきだと思うからです。
あなたが強調していることは、私たちが見ている3つの柱からなる視点です。信頼、責任、影響という3つの観点で捉えることができます。
あなたは、バイアス、有害性、不平等といったこれらの問題がどこに位置づけられるのかと尋ねました。それらは非常に高い優先順位に位置づけられる必要があります。
では、それにどう対処するのでしょうか。Salesforceを見ていただくと、私たちは、この信頼に関する議論について、常に一貫して「シフトレフト」を進める必要があると考えています。これは、製品ソリューションを開発し、顧客とパートナーを組む際に、その顧客が民間企業、政府、非営利団体、財団、その他いかなる組織であっても、そして市民社会であっても、そうすることを意味します……
Ina Fried: 「シフトレフト」について説明してください。開発者にとっては一つの意味を持つ言葉ですし、Salesforceは「シフトレフト」で知られていますが、それは開発の文脈では全く別の意味を持ちます。開発の文脈で何を意味するのか話してください。
Sabastian Niles: 私が言いたいのは、次のようなことです。ここで起きてはならないこと、あるいはSalesforceで「起こることを許してはならない」と私たちが言っていることがあります。そして、ここにいる皆さんも、それを起こさせないようにしたいと思うはずです。信頼がまず後回しにされること、バイアスや有害性の問題が後回しにされること、倫理や責任あるイノベーション、そして人道的で倫理的な利用をめぐる課題への取り組みが後回しにされることです。それらは、製品が大規模に展開された後に、後からなんとかすればよいと考えられてしまうのです。
シフトレフトとは、これらのトピックを、つまりバイアス、有害性、悪用、人間がテクノロジーを悪用するという問題を、製品開発のライフサイクルの非常に早い段階、つまり設計段階に持ち込むことを意味します。それは、組織や企業であっても、政府であっても、地方自治体の能力であっても同じです。テクノロジーを開発し、ソリューションを開発する際には、部門横断的な意思決定評議会を設けることが必要です。製品やソリューションを作る際に、どのような影響や不平等を生み出そうとしているのかを、製品の影響や不平等のロードマップを作成する非常に早い段階で明確にすることです。それは最後の段階ではなく、初期段階を通じて行うべきことです。「ああ、ところで、これらのリスクについて最初に検討すべきだったのではないか」と言い、その後で追いつこうとするのではなく、初めから取り組むべきなのです。
では、それは私たちにとって何を意味するのでしょうか。私たちは、「わかりました、では有害性フィルターを構築しましょう」と決めました。バイアス関連の課題にも取り組みましょう。従来のデジタル格差を埋める方法を考えましょう。そして、非常に早い段階から、イネーブルメント、アップスキリング、リスキリングにも注力しましょう。
私たちは世界中の多くの人々と、Trailblazerプラットフォームを通じて協力してきました。これは、さまざまな事柄について人々を研修し、能力を高めるために私たちが開発した無料のコンテンツです。学校であれ、従業員であれ、アップスキリングとリスキリングを通じて、人々が機会を理解し、それを非常に速く活用できるようにしています。
これらの課題の一部には、技術的な解決策があると私たちは考えています。しかしそれには、企業が次のように判断する必要もあります。「信頼を設計段階から組み込み、コンプライアンスを設計段階から組み込み、責任を設計段階から組み込もう」と。「誰か他の人がなんとかするだろう」と考えるのではなく、です。
もう一点、手短にお伝えしたいことがあります。あなたは農家の話をされました。これは、さらに広範で興味深い問いを提起していると思います。どのような分野や文脈において、リスクにも慎重に配慮しながら、すべての人のために包摂的な方法で利益を実現するために、解決策の採用と受容が必要になるのでしょうか。そして、重要な利益を実現するために、質の高い受容と採用が不可欠な分野や文脈、ユースケースにいる場合、あなたはJeremyが今説明したことを行わなければなりません。なぜなら、「上からの誰かが、今から実現すると言う」というだけではうまくいかないからです。関係する人々、組織、疑問を持ち、懐疑的で、疑念を抱き、信頼を欠く可能性のある人々を巻き込まなければなりません。そこでこそ、非常に早い段階から取り組み、これらのソリューションを作ることについて、絶えず注意深く見守る必要があります。テクノロジーなどが、人々の信頼、企業の信頼、公共部門の信頼に値するものなのかどうかです。そして、それは非常に難しいことです。なぜなら、非常に深刻なトレードオフに向き合う必要があるからです。
Ina Fried: そして、Gan大臣、ここで改めてあなたに伺うのにちょうど良いタイミングかもしれません。あなたはこの問題を見ておられます。AIはここにあります。私の国はそれをどう活用すればよいのでしょうか。国民の幸福と経済的競争力を改善するためには、どのように活用すればよいのでしょうか。また、新たな依存関係を生み出さないようにするにはどうすればよいのでしょうか。私たちは過去5、6年間で、世界が一つの経済だと考えていた頃には、技術をどこから得るかがそれほど重要ではないと思っていたのに、実際にはそれが非常に重要だということを学んだと思います。地政学的にも、物事は大きく変化しました。最大の機会がどこにあり、どこに注意が必要なのか、どのようにお考えでしょうか。
ガン・キム・ヨン:まず、リスクの問題についてもお話しします。新しい技術には常にリスクが伴うと考えています。特にAIや生成AIのような技術には、私たちがまだ十分に理解していないリスクがあり、そのためリスクを管理できないのではないかという恐れが常に存在します。しかし、私たちがすべきことは、リスクを特定し、それに対処し、緩和するために最善を尽くすことです。人間による意思決定においても、そのプロセスにはリスクがあります。人間には偏見もありますし、経験の偏りもあります。医師でさえ誤りを犯すことがあります。元保健相として申し上げると、AIは医療分野で大きな可能性を秘めています。たとえば、新薬の発見プロセスを加速させることができます。
アイナ・フリード:コラー博士がまさにその分野で取り組んでいると思います。
ガン・キム・ヨン:はるかに低いコストで、しかも誤りや過ちを減らしながらです。これは非常に重要だと考えています。
シンガポールが検討しているもう一つの分野は、AIを活用して公衆衛生を促進し、個人がとるべき行動を後押しすることです。どのような運動に取り組むべきか、どのような食品を避けるべきかといった点です。AIを使えば、個人のニーズに合わせてカスタマイズすることができます。
同時に、個人の体質に応じて、個別化された薬を提供する精密医療に取り組む可能性もあります。かつては汎用的な薬を使い、試行錯誤するしかない時代がありました。ある人には効いても、別の人には効かないこともありました。精密医療であれば、より標的を絞った治療が可能になる可能性があります。シンガポールは、AIや生成AIを製造業の現場でどのように応用できるかも検討しています。製造工程を最適化し、特に私たちが世界規模で事業を展開し始めている今日において、サプライチェーン全体の管理を最適化するために、AIをどのように活用できるかということです。世界規模での事業運営を人間の能力だけで管理することは、しばしば困難です。AIの支援があれば、より効率的かつ最適な形でそれを行うことが可能になります。ですから、AIの能力や活用事例を発展させる機会は数多くあると考えています。しかし同時に、それに伴うリスクを意識し、強固なガバナンス体制を整える必要があります。そして、そのガバナンス体制は技術の進化とともに発展しなければなりません。静止したままではいられないのです。そのため、シンガポールはサンドボックスの概念を採用しています。技術の進化を許容しつつ、規制は非常に軽いものにとどめています。同時に、技術の発展を非常に注意深く見守り、進むにつれてルールや規制を調整しています。このようにして、技術の発展と進化を許容しながら、その活用をできる限り安全に保つよう努めているのです。
そして、リスクが発見された場合には、規則や規制、ガバナンス体制をできるだけ迅速に調整する準備がなければなりません。ですから、AIの利用とAIの開発に関して、柔軟で実践的、かつ機敏なガバナンス体制が必要なのです。
ダフネ・コラー:ガン大臣が挙げた、創薬と医療における技術活用の例はとても良いと思います。その例を使って、よく見落とされがちな点を強調したいと思います。私たちが皆すぐに身近に感じられる消費者向けの活用事例が、技術にできることについての人々の想像力を支配してしまっているからです。ガン大臣が取り上げた例は、コンピュータが人間には不可能なことを実際に行う活用事例です。膨大で複雑な情報を取り込み、パターンを見出すことができるのです。たとえば、人間には決して見つけられない新しい治療介入を特定することや、人間生物学の複雑さを最終的に解明し、どの患者がどの薬の恩恵を受けるのか、受けないのかを特定できることなどです。そのためには、人間の生物学、解剖学、オミクス・レベル、遺伝学、画像情報など、膨大な情報を取り込む必要があり、人間の臨床医には決して到達できない診断と治療の道筋を実際に作り出すことになります。しかし、そうした活用事例は、人々が「わあ、すごい、拡散モデルだ」と感じてしまうために、しばしば脇に追いやられてしまいます。美しい画像を作成でき、もはやAdobe Photoshopは必要ないというのは素晴らしいことです。しかし、人間の能力を超えた活用事例も存在します。そして、それこそが、多くの点で最も大きな影響をもたらすものになると思います。
アイナ・フリード:同感です。そして、そこにこそ、私たちの課題がさらに押し広げられるのだと思います。人間の能力を超えて行われる仕事を、私たち人間はどのようにして管理していくのか。AGIについても多くの議論がなされています。これらの技術が人間に取って代わるとは思いません。しかし、あなたの指摘に応えると、すでに、そして今後ますます、人間が行えるペースと規模で作業を行えるようになり、さらに人間の脳が処理できる以上の多くの要素を考慮できるようになると思います。数週間前、トヨタの自動運転車に乗る機会がありました。また、人間と車がともに役割を果たす車の運転も経験しました。ただ、私たちが慣れ親しんでいる役割とは違う役割を担っていました。私たちは直接操作に慣れています。ハンドルを回せば、すべての車輪がそちらに向きます。最も高度なシステムでは、後輪だけが向きを変えるかもしれません。コンピュータは、「人間のドライバーは左に行きたい、私は状況を把握している、左前輪をこの方向に向けるべきだ」と判断することができます。つまり何が言いたいかというと、コンピュータが主導する場合には、考慮に入れられる要素がはるかに多くあるということです。人間には処理できないため、私たちはそれらを単純化してきたのです。サバスチャン、私たちがこれから直面しようとしている世界で、責任の管理についてどのように考えていますか。取り組んでいる仕事は、私たちの手に余るとまでは言いたくありませんが、私たちが扱える範囲を超える、はるかに多くの要素を含んでいます。また、もし間違っていたら訂正していただきたいのですが、誰かが異なる意見を持っていれば、コンピュータに行動を起こさせる世界へと移行しようとしています。私はそこが最もエキサイティングな部分だと思いますし、最も恐ろしい部分でもあります。現在、私たちはそれを人間の意思決定を支援するために使っています。つまり意思決定支援です。しかし、それはやがて行動を起こすようになるでしょう。その世界にどう備えればよいのでしょうか。
サバスチャン・ナイルズ:今、笑顔になってしまいました。というのも、Salesforceでは長い間、専任の組織を持っているからです。(これは公表されている情報だと思いますが)Salesforce Futuresという組織です。これはSalesforce Futuresという専任の機能で、起こりうる将来のシナリオについての議論すべてに本当に組み込んでいます。どれがより多かれ少なかれ起こりうると考えるか、どれを支援したいか、あるいは単にリスクとして軽減すべきものは何かを、信頼、責任、影響という観点から検討しています。ですから、私たちが注目している3つの興味深い分野がありますが、他の組織や社会も注目できるかもしれません。ビジネスの世界には古い格言がありますが、それはすべての組織に当てはまると思います。「文化は朝食に戦略を食べてしまう」というものです。
変化のペースとスピードについて考えると、あなたは、対応できる組織を構築しましたか。イノベーションの能力と、素早く動き、インプットを取り入れ、調整し、方向転換し、新しい情報を取り入れてから調整できる文化を築きましたか。それとも、過去に完全に依存した文化になっていますか。
あなたが提起した課題に関して、2つ目として考えたいのは、人的資本管理をどのように考えるかということです。企業戦略、政府戦略、非営利団体の戦略、あるいは人間と、私たちが自律型GPTエージェントと呼ぶものとが混在する環境を管理する際に、どのように考えるかということです。Einstein GPTを立ち上げた際の、さまざまなスキルなどについて、簡単にビジョンをお伝えします。そして、人間がAIによって能力を増幅され、強化され、コパイロットを持つ、より広範な労働力をどのように管理するかという問題を取り上げたいと思います。人々がより良く仕事をこなし、より有意義な影響を与えるために、AIと協働するのです。
さらに、人間ではない存在、つまり自律型エージェントとも関わらなければなりません。
しかし、ここに興味深い力学があります。現在、人々はどのように互いにやり取りしているでしょうか。人間が別の人間とやり取りするという考え方です。そして、もしかすると、反対側にいるAIとやり取りする人間がいるかもしれません。当社の基本原則や利用に関する方針などにおいて重視しているのは、情報開示です。透明性を保つことです。私たちは、AIとやり取りしていることを常に明確に知っているべきです。しかし、人間がAIとやり取りするのではなく、自律型エージェントが別の自律型エージェントとやり取りし、さらにその自律型エージェントが別の自律型エージェントとやり取りを続けるような時代が来るでしょう。そしてそれは、あらゆる分野で行き来します。特にビジネスにおいては、営業、研究開発、マーケティング、調達など、あらゆる領域でそうなるでしょう。
ちなみに、すでに最初の法的契約が生まれているのを目にしています。NDA(秘密保持契約)の分野では、双方のエージェントだけで交渉されています。もちろん、注意深く見守る弁護士の監督を受けています。しかし、エージェント同士がやり取りするというこの問題全体については、私たちはよく「ループの中の人間(human in the loop)」という概念について話します。あなたが重要な指摘をしていると思います。現在のこれらの技術の全般的な状況を見てください。それは単に「ループの中に人間がいる」というだけではありません。人間が決定を下しているのです。AIによるインプットや分析などの恩恵を受けながらも、決定を下しているのは人間です。
これは非常に重要なことです。これは、信頼、責任、影響の一部だと言えるかもしれません。人間による監督が引き続き行われることをどのように確保するのでしょうか。しかし、いつか、信頼を最優先に据え、信頼に根ざし、責任を最優先に、倫理を最優先とする、責任あるイノベーションの意思決定の仕組みが、実際にはAIによって主導される時代が来るかもしれません。
AIが資本配分の決定を行う世界では、どうなるのでしょうか。ここで、変化の重要性や、物事が非常に速く起きている場合に法律はどうなるのかについてお尋ねになりました。現実には、技術が法律を追い越し、公共政策を追い越しています。私たちが望む未来を実現するためには、行き詰まってしまうかもしれない未来ではなく、強力な法律と健全な公共政策が必要です。しかし同時に、これらの要素は民間セクターによって推進され続け、ある程度、そしておそらく次第に公共部門によっても推進されていく必要があります。その中には、自主的な取り組みを組み込む必要があります。そして、望ましくは多様な利害関係者による取り組みを通じて、責任あるガイドラインや利用に関する方針、信頼という感覚を育む必要があります。それによって、イノベーションを保護し、守り、さらには加速させる一方で、責任あるイノベーションを加速させることができます。そして、人々が早い段階からこれらの課題に真剣に取り組んでいくのです。
アイナ・フリード:ジェレミーが最後に一言、手短に発言したいそうです。
ジェレミー・ユルゲンス:いくつかの質問は必ずしも正しい前提に立っていないと思うので、発言したいと思います。金融サービスを見てください。今日、クレジットカードや決済アプリを使った方も多いと思いますが、その背後にはAIがあります。高頻度取引を考えてみてください。実際に安全装置が導入されています。エージェント同士が話し合い、互いに取引し合う中で、「あれ、少し行き過ぎているのではないか」と感じたときに、安全装置が作動します。私たちにできることは、医療や金融サービスといった厳しく規制された分野から学び、「今わかっていることを踏まえ、これまでよりも多くの分野でこれを適用する必要が出てくるだろう」と考えることです。
AIがさらに多くの領域に入り込み、組み込まれていくにつれて、安全スイッチが必要になるでしょう。エージェント同士のやり取りが制御不能になったとき何が起こるのかを考えなければなりません。「ちょっと待って、一時停止してください」と誰かが言うべきなのはいつなのか。私のNetflixの購読料の取引だけを確認したいのか、それとも銀行口座全体を確認したいのか。システムの中で人間による検証が必要となるタイミングには、大きな違いがあります。
最後に一つ触れておきたいのは、役割についてです。昨年9月に発表した当社のレポートをぜひご覧ください。私たちは、仕事そのものが失われるというよりも、特定のスキルが失われると考えています。そこで皆さんには、自分の組織の中を見直し、自動化にとって最も適した特定のスキルや役割は何かを考えてほしいと勧めます。また、チームのメンバーや顧客、組織の中でその議論をしてください。そうすることで、知識や学び、過去の成功と失敗を活かして前に進み、より良い未来に備えることができるようになるはずです。
アイナ・フリード:さて、ここで締めくくらなければなりません。パネリストの皆さん、洞察に富む議論をありがとうございました。会議の数日間が魅力的なものになると確信しています。
このような議論がお好きな方には、ちょっとした宣伝をさせてください。私はAxiosで毎日配信している無料のニュースレターを執筆しています。aiplus.axios.comでご覧いただけます。このテーマについては、ここだけでなく、1月のダボスでもさらに議論されることでしょう。昨年は、ChatGPTがあらゆる話題の中心でした。今年は、ChatGPTによって変わった世界にどう対応するかが、議論の最優先事項になると思います。
会場の皆さんには、そのままお席にお座りいただくようお願いします。次のパネルは「生成AIガバナンスの新時代」についてです。ステージを手早く整えたのち、数分後に開始します。そのセッションの後、10時45分頃に午前の休憩を取ります。ありがとうございました。
全文のポッドキャスト記録は下にスクロールしてご覧ください。
生成AIは、その本質からして、ゲームチェンジャーです。それは自動化ではなく、増幅です。私たちの能力を補強し、可能性の限界を押し広げ、産業を内側から変革します。
これは、2023年11月15日に開催された世界経済フォーラム「AIガバナンス・サミット2023」のセッションの完全音声です。
セッションの動画はこちらでご覧いただけます:https://www.weforum.org/events/ai-governance-summit-2023/sessions/transformation-on-the-horizon
登壇者:
ガン・キム・ヨン、シンガポール通商産業大臣
ジェレミー・ユルゲンス、世界経済フォーラム マネージング・ディレクター
ダフネ・コラー、Insitro創業者兼最高経営責任者
サバスチャン・ナイルズ、Salesforce社長兼チーフ・リーガル・オフィサー
アイナ・フリード、Axios チーフ・テクノロジー・コレスポンデント(モデレーター)
イベントページ:https://www.weforum.org/events/ai-governance-summit-2023/
ポッドキャストのリンク:
すべてのポッドキャストは次のサイトでご覧いただけます:wef.ch/podcasts:



