人工知能の危険性について、今日では悲観的な警告に事欠かない。
物理学者のスティーブン・ホーキングや投資家のイーロン・マスクといった現代の預言者たちは、人類が差し迫って衰退すると予言している。汎用人工知能や、自ら設計する知的プログラムが登場すれば、新しく、より高度なAIが現れ、急速にさらに賢い機械を生み出し、いずれ私たちを超えるという。
いわゆるAIのシンギュラリティに達すれば、私たちの心身は時代遅れになる。人間は機械と融合し、サイボーグとして進化を続けるのかもしれない。
本当に、私たちに待ち受けているのはそんな未来なのだろうか？
AIの波乱に満ちた過去
いや、そうではない。
コンピューター科学、数学、心理学、神経科学を基盤とする学問分野であるAIは、学習や問題解決など、人間の認知機能を模倣する機械の開発を目指している。
1950年代以来、AIは人々の想像力をかき立ててきた。しかし歴史を振り返ると、AIの成功の後には失望が続くことが少なくなかった。その主な原因は、技術の先見者たちによる過大な予測だった。
1960年代、AI分野の創始者の一人であるハーバート・サイモンは、予測した。「機械は20年以内に、人間ができるあらゆる仕事をこなせるようになる」と。（女性については何も述べていない。）
ニューラルネットワークの先駆者、マービン・ミンスキーは、さらに率直だった。「一世代のうちに」と彼は述べ、「『人工知能』を創り出す問題は大幅に解決されるだろう」と。
しかし、20世紀初頭のデンマークの物理学者、ニールス・ボーアが（伝えられるところによれば）「予測は非常に難しい。とりわけ未来については」と言ったのは正しかった。
今日のAIには、音声認識、チェスや囲碁などの戦略ゲームでの優れた成績、自動運転車、そして複雑なデータに潜むパターンの発見といった能力がある。
こうした能力があっても、人間が不要になったわけではまったくない。
新たなニューラルネットワークへの熱狂
しかし、AIは進歩している。近年のAIブームは、2009年にディープニューラルネットワークの学習速度が大幅に向上したことをきっかけに始まった。
人工知能は、人工ニューロンと呼ばれる多数の計算単位がつながった集合体で構成されており、脳内のニューロンと大まかに似ている。このネットワークに「考える」よう学習させるため、科学者は特定の問題について、解答済みの例を数多く与える。
たとえば、がんまたはがんではないという診断が付いた医療組織の画像が一揃いあるとしよう。各画像をネットワークに入力し、つながった「ニューロン」にがんである確率を計算させる。
次に、ネットワークの応答を正解と比較し、一致しなかった場合には「ニューロン」間の接続を調整する。ほとんどの応答が正解と一致するまで、全体を少しずつ調整しながらこの過程を繰り返す。
やがてこのニューラルネットワークは、病理医が通常行うように、組織画像を調べてがんを予測できるようになる。
これは、子どもが楽器の演奏を学ぶ過程とよく似ている。子どもは完璧に弾けるまで、曲を練習して繰り返す。知識はニューラルネットワークに蓄えられるが、その仕組みを説明するのは簡単ではない。
多数の層からなる「ニューロン」のネットワーク（そのため「ディープ」ニューラルネットワークと呼ばれる）は、研究者が学習にグラフィックスチップ上の多数の並列プロセッサーを使い始めて初めて、実用化された。
ディープラーニングの成功を支えるもう一つの条件は、解答済みの例を大量に用意することだ。インターネット、ソーシャルネットワーク、ウィキペディアからデータを集め、研究者たちは画像とテキストの大規模なコレクションを作成した。これにより、機械は画像の分類、音声認識、言語翻訳ができるようになった。
すでにディープニューラルネットワークは、こうした作業を人間に近い水準でこなしている。
AIは笑わない
しかし、高い性能を発揮できるのは特定の作業に限られる。
画像やテキストが実際に何を意味するのかというAIの理解には、進歩が見られない。学習済みのディープネットワークにスヌーピーの漫画を見せれば、形や物体、たとえば犬や少年を認識できるかもしれないが、その意味を読み取ることはできず（ユーモアにも気づかない）。
私たちは、子どもたちにより良い文章の書き方を提案するためにもニューラルネットワークを使っている。形式、綴り、文法の改善については、ツールはそれなりに適切な提案をするが、論理構成、推論、発想の流れとなるとお手上げだ。
現在のモデルは、11歳の小学生が書く簡単な作文さえ理解できない。
AIの性能は、利用できるデータの量にも制約される。私自身のAI研究では、たとえば医療診断にディープニューラルネットワークを応用している。過去より診断がわずかに改善することもあるが、劇的な変化はない。
その理由の一つは、機械に入力する患者データを大量に集められていないことだ。しかし、病院が現在収集しているデータでは、冠動脈性心疾患、片頭痛、がんなどの病気を引き起こす複雑な心身相互作用を捉えられない。
ロボットがあなたの仕事を奪う
だから人間の皆さん、心配はいらない。AIのシンギュラリティをめぐる熱狂的な予測はさておき、私たちは今すぐ不要になる危険にさらされているわけではない。
AIの能力はSF小説や映画の題材となり、興味深い哲学的議論を呼び起こす。しかし、汎用人工知能を実現できる自己改良型プログラムはまだ一つも作られておらず、知能が無限になり得るという兆候もない。
しかし、ディープニューラルネットワークが多くの仕事を確実に自動化することは間違いない。AIは私たちの仕事を奪い、肉体労働者や医療診断医、そしておそらくいつかは、残念ながらコンピューター科学の教授の仕事を脅かすだろう。
ロボットはすでにウォール街を席巻している。調査によると、「人工知能エージェント」により、2025年までに金融関連の仕事が約23万件失われる可能性がある。
人工知能が悪用されれば、深刻な危険を招くこともある。新たなコンピューターウイルスは、投票先を決めていない有権者を検出し、選挙結果を左右するため、彼らに合わせたニュースを大量に送りつけることができる。
すでに米国、中国、ロシアは、ドローン、戦闘車両、戦闘ロボットにAIを利用する自律型兵器に投資しており、その結果、危険な軍拡競争が起きている。
これは、さすがに警戒すべきことだろう。
