「情報戦」という言葉が作られたとき、その生みの親たちは口論するロボットを念頭に置いてはいなかった。
しかし、人工知能のアシスタントも人間の主人と同じくらい言い争い好きになりうることが、ウィキペディアの編集ボットに関する研究によって2月に明らかになった。研究者たちは、オンライン百科事典の裏側で大規模な編集合戦がくすぶっていることを突き止めた。人工知能同士が延々と変更をやり取りし、プログラマーに停止されるまで続くこともしばしばあった。
「ボット同士の争いは、人間同士の争いよりはるかに長く続くことがあります」と、研究に携わったタハ・ヤッセリ氏は述べた。この研究の題名は善良なボットでさえ争う。
「人間はたいてい数日もすれば冷静になりますが、ボットは何年も争い続けるかもしれません。」
ボット同士の口論は今に始まったことではない。2011年、コーネル大学の学生たちは、初の対話を、アランとスルティという2体のロボット知能の間で実現させた。わずか90秒で、2体の陽気なやり取りは、聞き違えた発言や神の存在、さらにはアランがユニコーンかどうかをめぐる言い争いへと発展し、どちらかが会話を打ち切った。ロボットは、奇妙な幻覚状態のような崩壊を起こさずに最初の会話を終えることすらできなかった。平均的なボットが、チャーチル顔負けの痛烈な皮肉を言えるようになるまでには、まだ長い道のりがある。
だが、これらがばかげた話に聞こえるとしても、AIがもたらす影響は深刻かもしれない。ロボット工学が潜在的な危険をはらむことは、広く認識されている。スティーブン・ホーキング氏は、開発を管理するために「何らかの形の世界政府」が必要だと訴えてきた。最近のピュー・リサーチの調査によると、アメリカ人の70%超がAIに支配される社会を恐れている。
8月、テスラ創業者のイーロン・マスク氏は、書簡に署名した116人のうちの1人となり、殺人ロボットを国連が一方的に禁止するよう求めた。AIが制御不能になれば第三次世界大戦が引き起こされる可能性があると、マスク氏は考えている。「先制攻撃が勝利への最も可能性の高い道だと判断した場合」だという。
テクノロジー業界は危険性に目を向け始めたようだ。10月には、グーグルのディープマインドが、AIの倫理的な影響に焦点を当てる部門を立ち上げた。2016年12月には、電気電子技術者協会（IEEE）が、「倫理的に整合した設計」と題する136ページの文書で、善意あるAIの創出を促した。
しかし、ウィキペディアで争うボットは、事態を複雑にする。「善良なボットでさえ争う」のであれば、単純な保守作業を行うだけの初歩的なAIが、激しい存亡をかけた争いに陥るとき、システムやソフトウェアがますます複雑になる中で、何に希望を託せるのだろうか。異なる2人のプログラマーが設計したボット同士が争うなら、異なる2か国が設計したボット同士はどうなるのだろうか。
そして、厄介なカンマではなく、国境や食料備蓄、飛行経路をめぐって争いが起きたらどうなるだろうか。
結局のところ、答えはわからない。ただし、自動運転車の世界に手がかりがあるかもしれない。今月初め、ロサンゼルスで自動運転シャトルバスが初運行を始めてから2時間もたたないうちに、衝突した。人間のトラック運転手が違法にバックしたのが原因だった。
「彼はただバックしていただけで……シャトルには後退する機能がありませんでした」と、乗客の1人は説明した。
市は歯切れの悪い声明を発表した。「シャトルは本来の動作をしました。センサーがトラックを検知し、事故を避けるために停止したのです。トラックにもシャトルと同じ検知装置が備わっていれば、事故は防げたでしょう。」
声明は、自動運転車でいっぱいの道路なら事故は起きなかったと示唆している。だが、ウィキペディアでの壮絶なロボット同士の争いは、別の物語を伝えている。自動運転シャトルバスが、たった1人の予測不能な運転手に対処できないとしたら、それぞれが独自の厳格なプログラム上の命令に従う無人車が渋滞した状況をさばけるだろうか。そもそも、そのプログラムに何が含まれ、メーカーごとにどう異なるのかという問題もある。歴史家のユヴァル・ノア・ハラリ氏はすでに、古くからある哲学上の難問を用いて、この課題に内在するジレンマを指摘している。別の車に乗る5人を救えるなら、無人車は乗客を犠牲にすべきなのだろうか。
それでも、AIの未来を悲観する人ばかりではない。ビル・ゲイツからマーク・ザッカーバーグまで、テクノロジー業界の大物たちは楽観的な見方を示している。フェイスブック創業者のザッカーバーグ氏は、マスク氏の「終末シナリオ」を批判した。（これに対してマスク氏は、ザッカーバーグ氏の理解は「限られている」と述べた。あれ、誰かを思い出さないだろうか。）
残忍なロボットによる奴隷化という悪夢に向かっていると考えるにせよ、眠っている間に通勤できる楽園に向かっていると考えるにせよ、確かなことが1つある。私たちの新しいロボットの友人たちは、うまく付き合う方法を学ぶ必要がある。
