AIのアルゴリズムは、自らの意思決定の背後にある思考過程を説明できない。しかし、もし説明できるようになれば、人間はその知的な問題解決から学べるかもしれない。
AIの一分野である「強化学習」は、コンピューターが自らの経験からどのように学習できるかを研究している。
研究者たちは、これを人間に解決策を説明する仕組みへとつなげたいと考えている。
人工知能（AI）の分野では、次のようなことができるコンピューターが生み出されてきた：自動車の運転、化合物の合成、タンパク質の折りたたみ、および高エネルギー粒子の検出を、人間を超える水準で行うこと。
しかし、これらのAIアルゴリズムは、自らの意思決定の背後にある思考過程を説明することができない。タンパク質の折りたたみを極めるだけでなく、生物学の法則についても研究者により多くを教えてくれるコンピューターは、説明なしにタンパク質を折りたたむコンピューターよりもはるかに有用である。
そのため、私のようなAI研究者は現在、人間が理解できる方法で自らを説明できるAIアルゴリズムの開発に力を注いでいる。それが実現できれば、AIは、まだ発見されていない世界の新たな事実を明らかにし、人々に教えることができ、新たな技術革新につながると私は考えている。
経験からの学習
AIの一分野である「強化学習」と呼ばれるは、コンピューターが自らの経験からどのように学習できるかを研究する分野である。強化学習では、AIは世界を探索し、自らの行動に基づいて肯定的または否定的なフィードバックを受け取る。
このアプローチにより、人間による指導なしに独力で学習し、人間を超える水準でチェスを指すようになったり、数学の定理を証明したりするアルゴリズムが生まれている。私自身はAI研究者として、強化学習を用いて、ルービックキューブのようなパズルの解き方を学習するAIアルゴリズムを開発している。
強化学習を通じて、AIは人間でさえ解き方を見いだすのに苦労する問題を、独力で解けるようになりつつある。このことにより、私と他の多くの研究者は、AIが何を学べるかよりも、人間がAIから何を学べるかについて考えるようになった。ルービックキューブを解けるコンピューターは、その解き方を人々に教えることもできるはずである。
ブラックボックスの内側をのぞく
残念ながら、超人的なAIの思考は、現時点では人間には理解が及ばない。AIは教師としては不向きであり、コンピューターサイエンスの世界で「ブラックボックス」と呼ばれるものである。
ブラックボックス型のAIは、解決策に対する理由を示すことなく、ただ解決策を吐き出すだけである。コンピューターサイエンティストたちは、何十年もこのブラックボックスを開こうと努力してきた。また、近年の研究により、多くのAIアルゴリズムは実際に人間と類似した思考をしていることが示されている。例えば、動物を認識するよう訓練されたコンピューターは、さまざまな種類の目や耳について学習し、その情報を組み合わせて動物を正しく識別する。
ブラックボックスを開く取り組みは、説明可能なAIと呼ばれる。私の研究グループは、米サウスカロライナ大学のAI研究所に所属しており、説明可能なAIの開発に関心を持っている。そのために、私たちはルービックキューブを多く用いて研究を行っている。
ルービックキューブは、基本的に経路探索問題である。すなわち、ばらばらの状態のルービックキューブ（地点A）から、完成した状態のルービックキューブ（地点B）への経路を見つける問題である。ほかの経路探索問題には、ナビゲーション、定理の証明、化学合成などがある。
私の研究室では、誰もが私たちのAIアルゴリズムがルービックキューブを解く様子を見られるウェブサイトを開設している。しかし、このウェブサイトから解き方を学ぶのは難しいだろう。コンピューターが、その解法の論理を説明できないからである。
ルービックキューブの解法は、いくつかの一般的なステップに分解できる。例えば、最初のステップは十字を作ること、次のステップは角のピースを正しい位置に配置することなどである。ルービックキューブそのものには10の19乗を超える組み合わせが存在するが、一般化された段階的な手順は非常に覚えやすく、さまざまな場面に応用できる。
問題をステップに分解して取り組むことは、人々が互いに物事を説明する際の一般的な方法であることが多い。ルービックキューブはこの段階的な枠組みに自然に当てはまり、それにより私たちのアルゴリズムのブラックボックスをより容易に開くことができる。このような能力を持つAIアルゴリズムを開発すれば、人々がAIと協働し、さまざまな複雑な問題を分かりやすいステップに分解できるようになるかもしれない。
協働が革新につながる
私たちのプロセスは、まず人が自らの直感を用いて、複雑な問題を解決しうると考えられる段階的な計画を定義することから始まる。次にアルゴリズムが各ステップを個別に検討し、どのステップが実行可能か、どのステップが不可能か、そして計画をどのように改善できるかについてフィードバックを与える。人間はAIの助言を用いて当初の計画を改良し、問題が解決するまでこのプロセスを繰り返す。最終的には、人とAIが相互理解に収束することが期待されている。
現在、私たちのアルゴリズムは、ルービックキューブを解くための人間の計画を検討し、その計画の改善案を提示し、うまくいかない計画を認識し、うまくいく代替案を見つけることができる。そうすることで、人が理解できる、ルービックキューブを解くための段階的な計画につながるフィードバックを提供している。私たちのチームの次のステップは、アルゴリズムが人々にルービックキューブの解き方を教えることを可能にする直感的なインターフェースを構築することである。私たちは、このアプローチを幅広い経路探索問題へと一般化することを目指している。
人間は、どのAIにも及ばない直感を備えている一方で、機械は計算能力とアルゴリズムの厳密さにおいてはるかに優れている。人間と機械の間のこのような往復のやり取りは、両者の強みを生かすものである。このような協働によって、化学から数学に至るまで、これまで解決されていなかった問題に光が当てられ、そうでなければ到達できなかったかもしれない新たな解決策、直感、そして革新が生まれると私は考えている。
