今月、さまざまな分野の専門家が世界経済フォーラム「グローバル・フューチャー・カウンシル年次総会」に集まりました。
コンピュータ科学者のスチュアート・ラッセル教授は、世界はAIの「ソリューショニズム」を超える必要があると参加者に語りました。
AIが直面する最大の課題のいくつかは、新たな形の協働と、適切な問いを立てることによって解決される必要があると、ラッセル教授は述べました。
分子のシミュレーションを100万倍速く行うことから10年前と比べて、質の高い医療のための人工知能（AI）の適用の可能性に至るまで、AIの応用は、ビジネスを前進させ、生活を向上させ、地球規模の課題に取り組むための多くの潜在的な機会をもたらします。
しかし、AIはあらゆる問題を解決する万能の手段ではありません。AIとは何か、そして何ではないのかをより明確に理解することが、「ソリューショニズム」を超えるうえで極めて重要だと、カリフォルニア大学バークレー校のコンピュータ科学教授であるスチュアート・ラッセルは述べています。
登壇した際、全体会議で、世界経済フォーラム「グローバル・フューチャー・カウンシル年次総会」において、ラッセル教授は、「ソリューショニズム」とは、十分なデータがあれば、機械学習アルゴリズムがあらゆる問題に対する解決策を提供できるという考え方であると説明しました。また、AIに関する一般的な誤解をどのように解消するか、そしてこの研究分野をどのように最も効果的に前進させるかについても語りました。
世界経済フォーラムは、人工知能に関するガードレールをどのように構築しているのでしょうか。
AI卓越性センターは、急速に進化する人工知能と、それが経済や社会に与える影響を理解するために、各セクターのリーダーをつなぎます。AIの導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支援します。
信頼できる場とコラボレーションのイニシアチブを通じて、センターはパートナーが共通理解を構築し、AIの革新と利用に対する責任あるアプローチに向けて協力できるようにします。
人工知能とは何でしょうか。
ラッセル教授は、毎日新聞の一面で目にするものを、多くの人が定義するのに苦労しているのは意外なことだと指摘することから話を始めました。
よくある誤解の一つは、AIを技術として捉えることです。「人工知能は技術ではなく研究分野である」と、ラッセル教授は説明し、知的な存在に一般的に関連づけられるタスクを実行できる機械をどのように開発するかという問題によって定義される、と述べました。
二つ目の誤解は、AIを新しいものだと考えることですが、実際には80年の歴史があります。一方で、新しいのは今日の進歩の速さだと、同教授は付け加えました。
進歩は、研究の非常に初期に掲げられた目標、すなわち、考えうるあらゆるタスクにおいて人間の能力に匹敵するか、それを上回る機械を作るという目標に向けて加速しているように見えます。
「私たちが自分たちより強力なシステムを作っているのであれば、明白な問いがあります。自分たちより強力な存在に対して、どうすれば永遠に権力を保持できるのか、ということです」と同教授は述べました。
「コンピュータ科学を創始したアラン・チューリングは、1951年の講演で、『いったん機械が思考を始めれば、すぐに我々のか弱い能力を凌駕するだろう。ある時点で、我々は機械が支配権を握ることを覚悟しなければならないだろう』と述べました。つまり、それが彼の答えでした。すなわち、そのような権力を維持することはできないということです」とラッセル教授は述べました。「確かなのは、自分たちより強力な機械を作る前に、これらの問いに対する答えを出しておいたほうがよいということです。」
この問いに対する進捗について、世界経済フォーラムの人工知能の未来に関するグローバル・フューチャー・カウンシルに尋ねられた際、ラッセル教授は、「この問いに対する部分的な答えはいくつか持っていますが、それらの部分的な答えは市場投入できる段階にはありません。
「それらは拡張性がなく、企業が世に送り出している技術や、企業が数百億ドルを毎月投じて開発し、規模を拡大し、さらに強力にしている技術と競合することもありません。」
同教授はさらに、「それらの技術が安全である可能性はありません。その仕組みすら理解していないのですから、制御することもできないでしょう」と付け加えました。
「そこで私たちが問うべき問いは、政府が、後から安全にしようとして失敗するのではなく、設計段階から安全なAIシステムを企業が構築するように、どのように規制を策定するか、ということです。」
AIを制御し続けるために必要なことは何でしょうか。
AI分野の最大の課題のいくつかは、協働と適切な問いを立てることによって解決される必要があると、ラッセルは述べました。
他の産業と異なり、デジタル産業には、その指針となる二次研究や影響に関する報告書が存在しないと、同教授は付け加えました。「私たちは数百万行のソフトウェアを書き、世界が好むかどうかにかかわらず、それを世界に投入しているのです。」
このアプローチは、特定の種類のソフトウェアが置かれる文脈、より正確には社会技術的な組み込みの状況を考慮していません。
「大きなソフトウェアの塊を取り、特定の場所で世界に投入するとどうなるでしょうか。たとえば、病院の救急外来における緊急症例のトリアージを行うソフトウェアがあり、それを救急室に導入したとしたら、どうなるでしょうか。」
「物事を良くするのか、悪くするのか。コンピュータ科学では、その問いを立てることはありません。私たちが問うのは、トリアージが得意かどうかです。しかし、それは正しい問いではありません」とラッセル教授は強調しました。
「正しい問いは、物事を良くするのか、悪くするのかということです」と同教授は説明し、ソフトウェア開発において適切な問いを立てるために、社会学者、経済学者、ビジネスの専門家などの支援が必要であることを指摘しました。
長期的には、適切な問いを立てることが極めて重要です。たとえば、機械が多くのタスクを私たちよりも上手にこなせるようになったとき、人間にはどのような役割があるのでしょうか。汎用AIを持つようになった場合、人間はそれと共存できるのでしょうか。機械があらゆることを私たちよりも上手に行うようになったとき、人間にはどのような役割があるのでしょうか。
そして最後に、「私たちが望む未来とはどのようなものでしょうか。その技術を持ちながら、活力に満ち、先を見据えた、そして願わくは今よりもはるかに優れた文明であるような未来です。もしその未来を思い描けないのであれば、また、それを描写できないのであれば、なぜそこに向かっているのかを考えなければなりません。」
「これは私たち文明全体に向けられた問いです」と同教授は説明しました。
社会はAIを信頼しているのでしょうか。
社会がAIを信頼しているかどうかを理解することは、これらの観察を文脈の中で捉えるうえで極めて重要です。
確かなのは、AIへの信頼は国によって大きく異なるということです。世界的な調査の回答者のうち、インドでは75％がAIを信頼することにある程度前向きであるのに対し、エストニア、日本、フィンランドでは30％未満にとどまります。
受容度は産業によっても大きく異なり、診断や治療におけるAIの応用を信頼すると回答した人は44％でした。さらに31％は態度を決めかねていました。
医療におけるAIを信頼しようとするこの高い水準は、医療診断と治療の精度向上が患者にもたらす大きく即時的な利益に加え、多くの国で医師に対する信頼が高いことを反映していると考えられます。
信頼の度合いが分かれる中、そして技術的な画期的進歩がすでに私たちが活動する仕組みを変革しつつある中、安全なAIシステムを設計するための政府規制を求める問いや、AIを制御し続けることの必要性は、かつてないほど重要になっているのかもしれません。
こうした観点から、AIが活力に満ち、先を見据えた文明と並び立つ未来はどのようなものかという問いは、私たち全員に向けられた問いです。
