ここ数年、現実から目を背けていたのでなければ、人工知能（AI）が前例のない、そして大方の予想を超える進歩を遂げたことを耳にしているだろう。その最もよく知られた例の一つは、Google傘下のDeepMindが「AlphaGo」を使い、2016年に世界屈指の囲碁棋士の一人を破ったことだ。しかし、AIが新境地を切り開いた事例はこれだけではない。
今日、AIはSiri、Alexa、Cortana、Google Assistantなどの音声認識ソフトウェアに使われている。小売業者が消費者の購買意向を予測するのにも役立っている。さらには、見たいメールとそうでないメールを振り分け、メールアカウントを整理している。
一方、ビジネスの世界では、機械学習――データから学び、データに基づいて予測できるアルゴリズムに焦点を当てたAIの一分野――が、コンピューターにできることの限界を押し広げている。その結果、ロボティック・プロセス・オートメーション（RPA）やビッグデータなどのソリューションが効率を高め、利益を押し上げている。
総じて、AIは世界をより良い方向へ変えるうえで、素晴らしい働きをしている。
AIに内在する危険
しかし、もう一方の側面はどうだろうか。AIはどのような悪影響をもたらし得るのか。AIも他のあらゆる技術と同じく、不正な目的に利用される可能性があるのは明らかだ。敵対的AI（入力を巧妙に作り込み、AIシステムにデータを誤分類させる手法）は、すでに実証されている。たとえば、赤信号を認識するAIの視覚システムに、信号を青だと認識させることができる。自動運転車にとって、これは壊滅的な結果を招きかねない。
敵対的AIのシナリオは、AIがハッキングされる例だ。さらに踏み込んで、AIそのものにハッキングをさせたらどうだろうか。これは最悪のシナリオではなく、現実に起こり得ることだ。
サイバー犯罪者がAIツールを手に入れるのは、ほぼ確実だ。すでにオープンソフトウェアとして広く利用可能だからだ。すぐに思い浮かぶのは、OpenAIとOnyxの二つだ。
このことは、とりわけミッションクリティカルな環境で使われるAIシステムが、こうした攻撃に耐えられるようにする必要性を浮き彫りにしている。
デジタル軍拡競争
いまや、セキュリティ業界とサイバー犯罪者（組織犯罪集団、国家の支援を受ける者、あるいは単独のハッカーを問わず）が、激化する軍拡競争を繰り広げている。いわゆるブラックハットは、システムに侵入して混乱を引き起こすためのAIを開発している。一方、ホワイトハットは、AIが同類の脅威からネットワークを守る方法を研究している。
ここで、道徳的な問いに行き着く。こうした目的にAIを使うべきなのだろうか。技術としてのAIは、その可能性がようやく理解され始めたばかりだ。理論上、AIは知能を高め続け、完全に人間の制御を超える存在になる可能性がある。
そう考えると、AIの軍拡競争はとりわけ危険に思える。幸い、イーロン・マスクやスティーブン・ホーキングをはじめとする聡明な人々が、この問題を慎重に考えており、必要な安全策を打ち出してくれると私は確信している。さらに、GoogleやMicrosoftなどの企業はすでに、リスクよりも機会のほうが大きいとの見解を示している。
そうした機会にも目を向ける価値がある。AIとサイバーセキュリティに関連する前向きな進展は、すでに数多く見られる。たとえばセキュリティ分野では、人間を置き換えるのではなく能力を補強するためにAIを活用できる。予測的な脅威監視、サイバー攻撃への動的な対応、安全なソフトウェア開発、セキュリティ訓練の改善などだ。いずれもホワイトハットを一歩先へ進めるツールやプロセスである。
しかし、最後に残る問いはこうだ。AIの軍拡競争はどのような結末を迎えるのか。どちらかが勝つだろう。そして、勝つのが善人とは限らない。そのことを少し考えてみてほしい。
