人工知能（AI）の未来をめぐる熱狂は、至るところに見られる。AIが病気を治療し、人間のイノベーションを加速させ、人間の創造性を高めるといった扇情的なニュースは後を絶たない。見出しだけを見れば、AIが社会のあらゆる側面に浸透した未来に、私たちはすでに生きていると思うだろう。
AIは将来有望な機会を数多く切り開いてきた一方で、「AIソリューショニズム」と呼ぶのが最もふさわしい考え方も生み出した。十分なデータがあれば、機械学習アルゴリズムが人類のあらゆる問題を解決できるという考え方だ。
この考えには大きな問題がある。AIの進歩を後押しするどころか、重要なAI安全原則を無視し、AIが人類のために実際に何をできるのかについて非現実的な期待を抱かせることで、機械知能の価値を損なっている。
AIをめぐる夢と妄想
わずか数年のうちに、AIソリューショニズムはシリコンバレーの技術を礼賛する人々から、世界各国の政府当局者や政策立案者へと広がった。振り子は、AIが人類を滅ぼすというディストピア的な見方から、私たちのアルゴリズムの救世主が到来したというユートピア的な信念へと揺れ動いた。
各国政府は今や、国内のAI施策への支援を表明し、急成長する機械学習分野で主導権を握ろうと、技術面でも言説面でも軍拡競争を繰り広げている。英国政府は、この分野で主導的な立場を確立するため、AI研究に3億ポンドを投資すると表明した。AIの変革力に魅了されたフランスのエマニュエル・マクロン大統領は、フランスを世界的なAI拠点にすることを約束した。
一方、中国政府は、2030年までに1,500億ドル規模の中国AI産業を創出する国家計画を掲げ、AI分野での力を高めている。多くの国が第4次産業革命を主導しようとしている。AIソリューショニズムは勢いを増しており、今後も続くだろう。
ニューラルネットワークの実像
多くの政治綱領は、目前に迫る「AI革命」がもたらす変革をうたう一方、先進的な機械学習システムを現実世界に導入する際の複雑さを過小評価しがちだ。AIにできることには限界があり、その限界は機械学習の実際の仕組みに結びついている。
最も有望なAI技術の一つが、ニューラルネットワークだ。この機械学習の手法は、人間の脳の神経構造を大まかに模したものだが、その規模ははるかに小さい。多くのAI製品は、大量のデータからパターンや規則を推測するためにニューラルネットワークを使っている。しかし、多くの政治家が理解していないのは、問題にニューラルネットワークを加えるだけで、自動的に解決策が生まれるわけではないということだ。
政策立案者があらゆる場面でニューラルネットワークの導入を始めても、AIによって政府機関がすぐに機動的、効率的になると考えるべきではない。民主主義にニューラルネットワークを加えるだけで、突然、より包摂的で、公正で、個人に合わせた制度になるわけでもない。
たとえば、実店舗型のショッピングモールをアマゾンのような企業へと変えることを考えてみよう。ウェブサイトを立ち上げるだけでは、インターネット企業にはなれない。それ以上の何かが必要だ。
データをめぐる官僚主義に挑む
AIシステムが機能するには大量のデータが必要だ。しかし、公共部門には通常、先進的な機械学習を支える適切なデータ基盤がない。データの大半は、今もオフラインのアーカイブに保管されている。存在するわずかなデジタル化済みデータも、官僚的な手続きの中に埋もれがちだ。多くの場合、データは複数の政府部門に分散しており、それぞれにアクセスするには特別な許可が必要となる。何より、公共部門には通常、機械知能の恩恵を最大限に生かすための適切な技術力を備えた人材が不足している。
こうした理由から、AIをめぐる扇情的な言説には多くの批判が寄せられてきた。バークレー校のコンピューター科学教授スチュアート・ラッセルは、超知能AIによるロボットの反乱を仮定するのではなく、AIの日常的でシンプルな応用に焦点を当て、ニューラルネットワークについてより現実的な見方を長年提唱してきた。同様に、MITのロボット工学教授、ロドニー・ブルックスは、「ロボット工学とAIにおけるほぼすべてのイノベーションは、分野の内外にいる人々の想像をはるかに超える時間をかけて、ようやく広く導入される」と述べている。実際の進歩は困難で、ゆっくりとしか進まない。AIの場合は、大量のデータも必要だ。
さらに、機械学習システムの導入には多くの難題があるが、その一つはAIが極めて敵対的攻撃を受けやすいことだ。悪意あるAIが別のAIを標的にし、誤った予測をさせたり、特定の行動を取らせたりする可能性がある。多くの研究者は、適切なセキュリティ基準と防御策なしにAIを展開することに警鐘を鳴らしている。それでも、政策立案者の政治的な言説では、AIのセキュリティは見過ごされがちなテーマだ。
魔法ではなく、機械をつくる
AIの恩恵を享受し、潜在的な害を最小限に抑えるには、政府、ビジネス、社会の特定分野で機械学習をどう有意義に活用できるかを考え始めなければならない。そのためには、AI倫理や、多くの人々が機械学習に対して抱く不信感について議論する必要がある。
何より重要なのは、AIの限界と、人間が依然として主導すべき領域を認識することだ。AIの能力を非現実的に描くのではなく、いったん立ち止まって、AIが実際に備える技術的能力と魔法の粉を区別する必要がある。機械学習は魔法ではなく、あらゆる問題の解決策でもない。
最近、フェイスブックもAIが常に答えになるわけではないと認めた。長い間、このソーシャルネットワークは、誤情報やヘイトスピーチの拡散といった問題はアルゴリズムで特定し、阻止できると考えていた。しかし、議員から最近圧力を受けた同社は、アルゴリズムを1万人を超える人間の審査担当者で置き換えると、すぐに約束した。
医療界もまた、AIをあらゆる問題の万能薬として扱うことはできないと認識している。IBM Watson for Oncologyプログラムは、医師のがん治療を支援するために開発されたAIだった。最善の推奨を提供するよう開発されたにもかかわらず、人間の専門家は機械を信頼するのは難しいと感じた。その結果、このAIプログラムは、技術に多額の投資が行われたにもかかわらず、試験導入された大半の病院で中止された。
法律分野でも同様の問題が生じた。アメリカで犯罪者の量刑を決めるために、裁判所でアルゴリズムが使用されたのだ。不透明なアルゴリズムでリスク評価スコアを算出し、再び犯罪を犯す可能性を判定した。このAIは、裁判で裁判官がよりデータに基づく判断を下せるよう設計されていた。しかし、このシステムは構造的な人種差別を助長することが判明し、法律専門家や一般市民から大きな反発を招いた。
AIの活用範囲を見極める
これらの例が示すように、あらゆる問題にAIで解決できるわけではない。AIを使うこと自体を目的にAIを導入しても、必ずしも効果的、有用とは限らない。機械知能を適用することが最善の解決策となる問題ばかりではない。
アメリカの哲学者エイブラハム・カプランは、1964年に出版した、ほとんど予言的ともいえる論考で、この傾向を「道具の法則」と名付けた。彼はこう表現している。「小さな男の子にハンマーを渡せば、出会うものすべてを叩く必要があると思うだろう」。
ただ今回は、カプランが描いた少年の考え方を、影響力のある世界の指導者たちが共有している。そしてAIというハンマーは、非常に強力であるだけでなく、非常に高価でもある。各国のAIプログラムへの投資拡大を目指す人々が学ぶべき重要な教訓は、あらゆる解決策には費用が伴い、自動化できるものすべてを自動化すべきではないということだ。
遠い将来に汎用レベルの知性を持つAIが実現するまで、何もせず待つ余裕はない。今日、あらゆる問題を狭義のAIに解決してもらうこともできない。私たち自身が問題を解決し、この重大な課題に役立つようAIシステムを積極的に形づくる必要がある。
