・現在の「人工知能」は、限られた「見よう見まね」の仕組みで動いています。
・そうしたシステムが、より高次の認知へと飛躍できる兆しはほとんどありません。
・機械学習を人間のオペレーターとより良く統合することに、私たちの努力を集中させるべきです。
文学、映画、テック系ジャーナリズムで好まれるモチーフの一つに、人間が生み出したものが立ち上がり、人間を滅ぼすという筋書きがあります。近頃では、AIが全能になり、反旗を翻して人類を滅ぼすのではないかという恐怖の形をとっています。
経済界はAIの流行に飛びつきました。一定期間、投資家向けの提案書に「AI」と書いていなければ、資金調達は諦めるべきという状況でした。（ヒント：Googleのサービスを使って画像にタグを付けているだけなら、それはAIではありません。）
しかし、AIという言葉に値するものが本当に存在するのでしょうか。私は、そのようなものは存在しないと指摘したいと思います。また、現在の私たちの考え方は、システムそのものの開発に偏りすぎており、そのシステムを使う人間についてはほとんど考えていないため、その真の恩恵を失っていると考えます。
現在、企業が実際に活用しているものは、ほぼ例外なく統計的なパターン認識と模倣のエンジンです。基本的に、こうしたシステムはすべて「見よう見まね」のパターンに従います。つまり、一定量のデータを与えられ、既知の（あるいは作り上げられた）出力をできる限り忠実に模倣しようとするのです。
価値を生み出すために使う場合、現実のインプットを与えて、予測された出力を読み取ります。では、これまで一度も見たことのないものに遭遇したらどうなるのでしょうか。その場合は、その「新しい」ものが以前のものに十分似ていることを期待するしかありません。さもなければ、あなたの「知的な」システムは、非常に愚かな応答を返すことになるでしょう。
しかし、そこには理解、推論、文脈といったものが、ほんのわずかすら存在しません。あるのは、以前に見たものを単純に再現する仕組みだけです。写真の中の羊を検出するよう訓練された画像認識システムは、「羊」が実際に何を意味するのかをまったく理解していません。それでも、こうしたシステムは出力の再現があまりにも巧みになったため、時に自分が何をしているのか分かっているかのように見えることがあります。
それで十分ではないか、と思われるかもしれません。確かに、限られたケースでは十分です。しかし、推論する能力をまったく持たず、潜在的に有害な下流への影響を伴う、目立たない例外を見つけ出すために、情報に通じたユーザーを必要とするため、それは「知的」とは言えません。
思考の梯子には三つの段階があり、以下の図に示されています。
模倣：見せられたものを真似します。これには理解は不要で、相関関係だけがあれば十分です。過去を記憶し、再現することができます。実験用のマウスや現在のAIシステムはこの段階にあります。
介入：因果関係を理解し、過去に世界について学んだことに基づいて、今これを行えば何が起こるかを見極めることができます。これには、影響を与えたい世界の一部についての心的モデルと、その最も重要な下流の依存関係が必要です。異なる未来を想像することができます。この段階には犬や幼い子どもがいるため、悪い位置ではありません。
反実仮想的推論：最も高い段階であり、過去にこれor那をしていたら何が起こっていたかを考えることができます。これには、完全な世界モデルと、頭の中で世界をシミュレートする方法が必要です。複数の過去と未来を想像することができます。この段階にはカラス、イルカ、成人の人間がいます。
ある段階から次の段階へ上がるには、まったく新しい一連のスキルを身につける必要があります。模倣するシステムを単に大きくしても、突然推論できるようになると期待することはできません。それでも、私たちは現在、ますます大規模化する深層学習モデルでまさにそれを行っています。模倣する力を与えれば、いつか思考する能力が不思議にも生まれると考えているのです。自己欺瞞的な希望や、投資家や新聞に美しい物語を売り込むこと以外に、そう信じる理由はほとんどありません。
さらに、増え続けるモデルの計算の複雑さと経済的・生態学的影響については、まだ触れてさえいません。仮にその手法がうまくいったとしても（現時点ではうまくいっていませんが）、必要な規模までモデルを拡大できない可能性があります。
こうしたシステムが生み出すものは、知能の見せかけにすぎません。模倣によって人工知能を生み出そうとすることで、私たちはカーゴカルトを追い求めているのです。
その代わりに、現在の方法では本物のAIには到達できないという事実を受け入れ、そう呼ぶのをやめるべきです。機械学習（ML）は、適用できる狭い分野において素晴らしい能力を持つツールにふさわしい用語です。そして、どのようなツールでも、世界全体を自分の釘にしようとするのではなく、どこで使い、どこで使わないかを見極めるべきです。
機械は、不確実性を最小限に抑えながら、タスクを迅速かつ繰り返し実行することに長けています。彼らは第一段階の支配階級です。
人間は、手元にデータがほとんどなく不確実性が高い状況でも、文脈を理解し、意味を見出すことに長けています。彼らは第二段階と第三段階の支配階級です。
では、あらゆるものから人間の要素を取り除くことへの現在の執着から離れ、両方の強みを組み合わせることに努力を向けてはどうでしょうか。機械学習システムに最適な人間中心の形を与え、両者が輝けるよう適切な人間と機械のインターフェースを見つけることには、大きな可能性があります。MLシステムがデータを準備し、自動化可能なタスクを処理し、その結果を人間に渡すと、人間が文脈に応じてさらに処理するのです。
MLは、CEOにとっての優秀なスタッフ、農家にとっての働き者、アプリのユーザーにとって優れたユーザーインターフェースのようなものになり得ます。人々に力を与え、時間を節約し、ミスを減らします。
特定のタスクのためのMLシステムを構築することは比較的簡単であり、今後ますます容易になるでしょう。しかし、データと、そのデータの前処理済みの結果を、意思決定者（すなわち人間）と堅牢かつ機能する形で統合することは困難な課題です。多くのMLプロジェクトが、それを利用しようとする組織との導入・統合の段階で失敗する理由がここにあります。
フォーラムは、政府が責任を持ってAI技術を導入できるよう、どのように支援していますか。
この課題の解決には創造的な取り組みが求められます。それは、領域への理解、製品設計、そしてコミュニケーションに関わることです。例えば、より多くのターゲティング広告を配信するために規模を拡大し続けるのではなく、真の成果は、データと人間を巧みに結びつけ、より良い意思決定を行い、より困難で重要な課題を解決できるようにすることにあります。
