高度な人工知能（AI）が、いつか人間の創造主に反旗を翻すかもしれないという可能性は、近ごろ繰り返し取り沙汰されている。たとえば著名な物理学者スティーブン・ホーキングは、新たにアップグレードした音声合成システムが自分の言おうとしていることを予測する能力に驚き、将来、AIは人間の知能を超え、最終的には 人類の終焉をもたらす可能性があると示唆した。
超知能AIを懸念しているのはホーキングだけではない。 増え続ける 未来学者、哲学者、AI研究者が、人工知能によって人間が知恵でも立ち回りでも出し抜かれる可能性への懸念を表明している。私の見解では、その可能性は低い。人間は常に、改良されたAIを使って自らを向上させるからだ。悪意あるAIが出し抜かなければならないのは、人間の生の脳力だけではなく、人間と、私たちが指揮できる忠実なAI技術との組み合わせでもある。その組み合わせは、人間やAIのどちらか単独よりも優れている。
すでに多くの例がある。クライヴ・トンプソンは著書 『Smarter Than You Think』 で、AIが人間のトップ棋士を超えて久しい世界選手権のチェスにおいて、世界最高のチェスプレーヤーは人間でもAI単独でもなく、人間とコンピューターのチームだと述べている。
生身の（支援を受けない）人間の知能を超えることが黙示録の引き金になるとは思わないが、興味深い基準にはなる。残念ながら、その時点に達したとどうすれば分かるのかについて、合意はない。
チューリング・テストを超えて
AIの確立された基準の一つが、故アラン・チューリング――偉大な数学者でありAIの先駆者――が述べた思考実験に基づいて作られた チューリング・テストである。「機械は考えられるか」という問いに対するチューリングの実践的な解決策は、 模倣ゲームだった。機械がどんな話題でも、人間が相手が人間なのか機械なのか見分けられないほど説得力をもって会話することが課題となる。
1991年、発明家ヒュー・ローブナーは、チューリングのテストに合格できるAI――現在ならチャットボットと呼ぶもの――を作るため、年次コンテストの ローブナー賞を創設した。今年のコンテストの審査員の一人、イアン・ホッキングは、 ブログで報告した 。コンテスト参加者が人間らしい知能を実現する最善の試みを代表しているのなら、成功までにはまだ数十年かかる。AIが再現できるのは、人間の知能という氷山の一角にすぎない。
私も、レディング大学が最近、会話能力で 英語を話す13歳のウクライナ人少年 に匹敵したと主張したことには、さほど感心していない。子どものような知能や、非母語話者の言語能力をまねることは、チューリング・テストの要件を完全に満たすにはほど遠い。
実際、言語理解ではなくパターン照合アルゴリズムを備えたAIシステムは、何十年も前から、人間の会話を表面的にまねることができている。たとえば1960年代には、 イライザ というプログラムが、心理療法士らしい印象をそれなりに与えることができた。イライザは、ある人々をある時にはだませることを示した。しかし、ローブナー賞の賞金2万5,000米ドルが一度も授与されていない事実は、適切に実施されたチューリング・テストが人間レベルの知能を測る厳しい基準であることを示している。
人工的な創造性を測る
では、チューリング・テストにはまだ合格できないとして、AIがより説得力をもって再現できる人間の知能の側面はあるのだろうか。米国ジョージア工科大学の 最近の提案 として、 マーク・リードルはAIの創造性を試す方法を示している。
リードルの ラブレス2.0 テストでは、AIに、もっともらしいが恣意的に複雑な一連の設計制約に合致する成果物を作らせる。制約は、その成果を評価する審査者が設定する。人が制約を満たせば創造的思考の証拠とみなされるような制約を選び、そこからAIにも同じことが言えるようにする。
たとえば審査者は、機械に（リードルの例にならって）こう求めるかもしれない。「少年が少女に恋をし、宇宙人が少年を誘拐し、少女が話す猫の助けを借りて世界を救う物語を作れ」。チューリング・テストとの重要な違いは、機械の出力を人間の出力と比べていないことだ。創造性、ひいては知能は、専門家が判断する。リードルは、美的な側面は脇に置き、出力が制約を満たしているかだけを評価しようと提案する。したがって、機械がジャック、ジル、 バグパスがETを撃退して地球を救う適切なSF物語を作れば合格となる――たとえ児童文学作品としてはいささか独創性に欠けるとしても。
創造性を試すという考えは気に入っている。人間の創意工夫を支える才能のうち、AI開発者がまだ理解に着手すらしていないものがあるからだ。しかし、リードルのテストの本質は制約充足、つまり問題解決にあるように思える。難しい課題ではあるかもしれないが、それを創造性と考える人ばかりではない。また、チューリングの言葉によるテニスの試合から競争の要素を取り除いたことで、ラブレス2.0の評価は見る人次第となりすぎている。
これから訪れる驚き
コンピューターの発明に関わり、リードルがテストに名を付けたチャールズ・バベッジの友人、エイダ・ラブレスは、「解析機関［バベッジのコンピューター］には、何かを独創するという自負はない。私たちが命じ方を知っていることなら何でも実行できる」と有名な言葉を残した。この発言は、コンピュータープログラムの振る舞いは完全に予測可能であり、意外性のある、したがって創造的なことができるのは人間の知能だけだという、今も広く持たれている見方を反映している。
しかし、過去50年間で、複雑なコンピュータープログラムは、作成者が意図していない「創発的」な性質をしばしば示すことが分かってきた。したがって、リードルのテストで予想外のことをするだけでは、独創的な思考の証拠として不十分かもしれない。人間の創造性には、以前は関係がないと思っていた考えの間に関係を見いだす能力を示す、ほかの特徴もある。画像を言葉にし、さらに画像に戻すことで、あるいは長い時間をかけて考えを巡らせ、潜在意識の働きに委ねることで、また会話を通じてある人の頭の中の考えを別の人へ移し、概念が新たな形をとるよう促すことで、それが起きることがある。AIでこうしたことの大半を実現するには、まだほど遠い。
今のところ、AIは人間と協働し、想像力豊かに考える私たちの能力と、コンピューターの記憶力、正確さ、速度を組み合わせるときに最も力を発揮すると私は考えている。AIの進歩を見守ることには価値があるが、こうしたテストが示すのが、機械の知能が私たちに匹敵するまでにどれほど道のりが残っているかということ以外になるまでには、長い時間がかかるだろう。
総合的に考えれば、今すぐ非常ボタンを押す必要はないと思う。
この記事は The Conversationとの協力により掲載されています。掲載は、世界経済フォーラムが見解を支持することを意味するものではありません。
Forum:Agendaの最新情報を受け取るには、 週刊ニュースレターに登録してください。
著者：トニー・プレスコットは、シェフィールド大学の認知神経科学教授であり、シェフィールド・ロボティクス・センターの所長。
画像：2010年6月22日、シンガポールで開催されたロボカップ大会で、サッカーをするロボットの一体をカメラに向けて掲げる競技者。ロイター／ヴィヴェク・プラカシュ。
