人工知能を恐れるべきでしょうか。私にとっては単純な問いであり、さらに単純な二文字の答えがあります。それは「いいえ」です。しかし、故スティーブン・ホーキング博士を含め、多くの人々が同意していません。 懸念を示しており、強力なAIシステムの台頭が人類の終焉をもたらしかねないと指摘しています。
AIが世界を支配するかどうかについての見解は、人間を上回る知的な振る舞いを発達させられるかどうか、つまり「超知能」と呼ばれるものを、AIが実現できると考えるかどうかにかかっています。では、その可能性がどの程度あるのか、そしてなぜAIの将来について大きな懸念が持たれているのかを見ていきましょう。
人は理解できないものを恐れる傾向があります。恐怖は人種差別、同性愛嫌悪、その他さまざまな差別の原因としてしばしば非難されます。そのため、新しい技術にも同じことが当てはまるのは不思議ではありません。新しい技術はしばしば一種の神秘に包まれています。技術的な成果の中には、ほとんど非現実的に見えるものもあり、明らかに期待を超え、場合によっては人間の能力さえも上回っています。
機械の中に幽霊はいない
しかし、「機械学習」として総称される、最も普及しているAI技術の神秘性を解き明かしてみましょう。機械学習」と呼ばれるものです。これは、明示的な指示をプログラムされなくても、機械がタスクを学習できるようにする技術です。不気味に聞こえるかもしれませんが、実のところそのすべては、かなり平凡な統計に基づいています。
機械とは、プログラム、もしくはむしろアルゴリズムであり、与えられたデータの中から関係性を発見する能力を備えるように設計されています。これを実現するための方法は多数あります。例えば、手書きの文字（a～z）の画像を一つずつ機械に提示し、表示された文字が何かを順番に答えるよう求めることができます。可能な答えは、あらかじめ与えておきます。その答えは（a～z）のいずれか一つに限られます。最初、機械はでたらめに文字を答え、それに対して正しい答えを提示して修正します。さらに、機械が自らを再構成するようプログラムしておくと、次に同じ文字が提示されたとき、次の文字に対して正しい答えを出す可能性が高まります。その結果、時間とともに機械の性能は向上し、アルファベットを「学習」して認識できるようになります。
要するに、特定のタスクを達成するために、データに含まれる一般的な関係性を利用するよう機械をプログラムしたのです。例えば、「a」のあらゆる書き方は構造的に似ていますが、「b」とは異なります。アルゴリズムはこの違いを利用できます。興味深いことに、訓練の段階を経た後、機械は得られた知識を新しい文字の見本に適用できます。例えば、機械がこれまで一度も見たことのない筆跡の持ち主が書いた文字にも適用できるのです。
一方、人間は読むことが得意です。より興味深い例として、Google DeepMindの人工囲碁プレイヤーがあります。このプレイヤーは、これまでのあらゆる人間のプレイヤーを上回っています。その学習方法は人間とは明らかに異なります。人間が一生のうちに打てないほどの数の対局を、自分自身と繰り返し行うのです。このプレイヤーは勝利するよう具体的に指示され、取る行動によって勝敗が決まることを知らされています。また、囲碁のルールも教えられています。何度も対局を重ねることで、各局面における最善の一手を見つけ出します。その結果、人間がこれまで一度も打ったことのない手を編み出すのです。
トッドラー対ロボット
では、そのAI囲碁プレイヤーは人間より賢いと言えるのでしょうか。明らかにそうではありません。AIは特定の種類のタスクに非常に特化しており、人間が持つような汎用性は示しません。人間は何年もかけて世界への理解を育みますが、それはこれまでどのAIも達成しておらず、近い将来に達成する見込みも乏しいものです。
AIが「知能」と呼ばれるのは、突き詰めれば学習できるからです。しかし、学習という点においてさえ、AIは人間に太刀打ちできません。実際、幼児は誰かが問題を一度解く様子を見るだけで学習できます。一方、AIが成功するには膨大なデータと何度もの試行が必要です。人間は人生の最初の数年間で驚異的な知能を急速に発達させますが、機械学習の基本的な概念は、10年前、20年前と比べてそれほど大きく変わっていません。
現代のAIの成功は、新しい技術の画期的な進歩によるものというより、利用可能な膨大なデータと計算能力によるところが大きいのです。ただし重要な点として、データがどれほど無限にあっても、AIに人間のような知能が備わるわけではありません。まず、人工の「汎用知能」の技術を開発するうえで、大きな進歩を遂げる必要があります。そのためのアプローチの一つは、人間の脳のコンピューターモデルを構築することですが、私たちはそれを実現するにはほど遠い状況です。
結局のところ、AIが学習できるからといって、人間の知能のあらゆる側面を突然学習し、私たちを凌駕するようになるとは限りません。そもそも人間の知能とは何かについて単純な定義は存在せず、それが脳内でどのように表現されているのかも、ほとんど分かっていません。仮にそれを解明し、さらに賢くなれるAIを作れたとしても、それが必ずしもより成功することを意味するわけではありません。
個人的には、人間がAIをどのように使うかのほうが懸念されます。機械学習アルゴリズムはしばしばブラックボックスと見なされ、アルゴリズムが見つけ出した解の具体的な内容を明らかにする努力はあまり払われていません。私たちはしばしば性能にこだわり、理解することにはあまり関心を向けませんが、これは重要かつ頻繁に軽視される側面です。こうしたシステムが発見した解を理解することは重要です。なぜなら、その解が正しいか、また望ましいものかを評価できるからです。
例えば、訓練の方法を誤れば、一般には成り立たない関係性を学習した機械が生まれてしまうこともあります。例えば、工学分野で将来有望な学生の能力を評価する機械を設計したいとしましょう。おそらくひどい考えですが、議論のためにそのまま進めてみます。伝統的に工学は男性が多数を占める分野であるため、訓練用のサンプルは過去の男子学生である可能性が高くなります。例えば訓練データのバランスを取るなどの対策をしなければ、機械は工学を学ぶ学生は男性であるという結論に至り、それを将来の判断に誤って適用してしまう可能性があります。
機械学習と人工知能は道具です。他のすべてのものと同様に、正しく使うことも誤って使うこともできます。懸念すべきはその方法自体ではなく、どのように使われるかです。私にとって、人間の強欲さと人間の愚かさは、人工知能よりもはるかに恐ろしいものです。
