ダボス2024：サム・アルトマンが語るAIの未来

• ダボス会議のセッション「激動の世界におけるテクノロジー」で、OpenAIのCEOサム・アルトマンが、AIが今後どこへ向かうと考えているかを語りました。

• 「経済と社会の原動力としての人工知能」は、世界経済フォーラム年次総会の主要テーマの一つです。

• アルトマンは、生成AIが話題を独占した一年を振り返りました。

サム・アルトマンは、机の上に「次に何が起こるかは誰にもわからない」と書かれた標識を置いています。

しかし、ChatGPTを生み出したOpenAIのCEOとして、彼は人工知能がどこへ向かうのか、そしてそれに何ができて何ができないのかを、ほとんどの人よりも的確に予測できる立場にあります。

以下は、セッション「激動の世界におけるテクノロジー」でのアルトマンの主な発言です。

人々がAIを活用するにつれ、生産性の向上は拡大していく

「現在の能力が非常に限られており、深刻な欠陥があるにもかかわらず、人々は[このツール]を活用して大きな生産性向上やその他の成果を上げる方法を見いだし、その限界も理解しつつあります。

「人々はツールとそのツールの限界について、私たちが思っている以上に理解しています。人々はChatGPTを自分にとって非常に有用なものにする方法を見いだし、大半の場合、何に使うべきでないかも理解しています。」

AIは自らの推論を私たちに説明できるようになる

テクノロジーを信頼できるようになるには、その仕組みを理解することが欠かせません。しかしアルトマンは、生成AIがどのように動作するかを真に理解することは、現在人々が考えているものとは「少し異なる」ものになると述べています。

「私はあなたの頭の中を覗いて、なぜそのように考えているのかを理解することはできません。しかし、推論を説明してもらい、それが私にとって妥当かどうかを判断することはできます。

「私たちのAIシステムも同じことができるようになると考えています。AIは、AからBに至るまでの各ステップを自然言語で私たちに説明できるようになるでしょう。そして、一つひとつのつながりを細かく確認していなくても、それらのステップが妥当かどうかを私たちは判断できるのです。」

AIが人間同士の思いやりに取って代わることはない

1997年にIBMのチェス・コンピュータ「ディープ・ブルー」が世界チャンピオンのガルリ・カスパロフに勝利した際、評論家たちは、コンピュータが勝利したことでチェスは終わり、もはや誰もチェスを観戦したり、プレイしたりしなくなるだろうと論じました。

しかしアルトマンは、「チェスは今ほど人気を集めたことはありません」と述べ、「二つのAIが対戦するのを見たがる人はほとんどいません。私たちは人間が何をするのかに非常に関心があるのです」と語りました。

「好きな本を読み終えたら、まず最初にすることは、その著者の人生について徹底的に調べることです。私の心に響いたものを生み出したその人物と、何らかのつながりを感じたいのです。」

人間はアイデアにより多く向き合うようになる

AIは広く、雇用の増加と雇用の喪失をもたらすと予想されていますが、アルトマンは、人々にアイデアを生み出し、意思決定をキュレーションする余地を与えることで、一部の役割は変化すると予測しています。

「自分の仕事について考えると、私は優れたAI研究者ではまったくありません。私の役割は、私たちが何をすべきかを見極め、それについて考え、その後、他の人々と連携して実現させることです。

「誰の仕事も、今よりもう少しそれに近いものになると思います。私たちは皆、もう少し高い抽象度のレベルで仕事をすることになるでしょう。私たちは皆、はるかに多くの能力を利用できるようになります。それでも私たちは意思決定を行い、時間の経過とともにその意思決定はキュレーションの方向へ傾いていくかもしれませんが、世界で何が起こるべきかについては、私たちが決定を下すことになるでしょう。」

AIの価値観の整合性には楽観の余地がある

「私たちがこれを推し進めようとしてきた技術の方向性は、安全なものにできると私たちは信じているものです」と、アルトマンは述べました。

反復的な展開により、社会はテクノロジーに慣れることができ、「私たちの制度には、これをどのように規制し、どのようなガードレールを設けるかについて、こうした議論を行う時間が与えられる」とアルトマンは述べました。

アルトマンは、GPT-3からGPT-4の間には、一連の価値観にどれだけ適切に自らを整合させられるかという点で「大きな進歩」があったと述べました。

しかし、より難しい問いは、「その価値観や初期設定、境界を決めるのは誰なのか。この国とあの国では、どのように扱いが異なるのか。私はそれを使って何をしてよいのか、してはいけないのか。これは大きな社会的問いだ」というものです。

「技術的なアプローチという点では、楽観の余地があります」と彼は述べ、さらに現在のアライメント手法は、はるかに強力なシステムには拡張できないため、「私たちは新しいものを発明する必要があるでしょう」と付け加えました。

彼は、AI技術が受けている精査を歓迎しました。

さらに彼は、価値観や安全性の閾値といった決定に社会の意見を取り入れることは、テック業界の責任であり、それによって利益がリスクを上回るようにすべきだと述べました。

「私たちのような企業に対して世界が抱いている一般的な不安や違和感には、大いに共感しています……私たちにも不安はありますが、それを乗り越えていけると信じており、そのための唯一の方法は、テクノロジーを人々の手に委ねることです。

「社会とテクノロジーが共に進化し、非常に密なフィードバックループと軌道修正を伴いながら段階的に進めていくことで、安全要件を満たしつつ、大きな価値をもたらすシステムを構築していくべきです。」

コンテンツに関する新たな経済モデルが生まれる

アルトマンは、LLMがコンテンツを表示することと、そのコンテンツを学習に用いることを区別しました。

「ユーザーが『ねえ、ChatGPT、今日のダボスで何があった？』と尋ねた場合、ニューヨーク・タイムズやウォール・ストリート・ジャーナル、その他の優れた出版物のようなブランドのコンテンツを表示し、外部へリンクして、『今日起きたことはこちらです』と伝えたいと考えています。そして、そのコンテンツには対価を支払いたいと考えています。そのために、トラフィックを促したいのです」とアルトマンは述べ、そのデータでモデルを学習させることは優先事項ではなく、表示することが重要だと付け加えました。

今後、LLMは学習過程において、より少量でも質の高いデータを取り込み、それについてより深く考え、より多くを学べるようになるでしょう。

コンテンツが学習に使用される場合、アルトマンは、コンテンツの所有者に報酬を支払う新たな経済モデルが必要だと述べました。

「あなたの教科書や授業計画を使って、他の誰かに物理学を教えるのであれば、そのことであなたに対価が支払われる方法を見つけたいと考えています。もしあなたが私たちのモデルを教育するのであれば、その成功に基づいてあなたに報酬が支払われる新たなモデルを見つけたいと思います……現在の議論は少し間違ったレベルに焦点が当てられており、今後数年でこれらのモデルを学習させることの意味は大きく変わるだろうと思います。」

パネリストには、次の方々も参加しました：マーク・ベニオフ、セールスフォース会長兼CEO、ジュリー・スウィート、アクセンチュア会長兼CEO、ジェレミー・ハント、英国財務大臣、およびアルバート・ブーラ、ファイザーCEO（これらの課題について議論するため）

セッション全編はこちらからご覧いただけます：

ダボスAM24 - 激動の世界におけるテクノロジー - 英語

48:41