ある話題が大きな注目を集めています。DeepMindで行われた実験では、ゲームをプレイする際にAIシステムが攻撃的になるのか、協調的になるのかが調べられています。プレイヤーは仮想のリンゴを集め、仮想の「レーザー」を「撃って」相手を一時的に行動不能にできます。AIが、平和的にリンゴを集めるよりも相手を撃つほうが得策だと判断することがあり、人間は驚いています。
私の問いは単純です。これは何を教えてくれるのでしょうか。答えも単純です。何も教えてくれません。相手にレーザーを撃つことが許されているゲームをAIにプレイさせれば、相手が仮想であれ現実であれ、AIが相手にレーザーを撃つのは驚くことではありません。AIがあらかじめ先験的にアシモフの法則のようなものを独自に編み出し、「これはできません」と言うとは思えません。（ソフトウェアがレーザーを撃てないようにしていれば、もちろん撃ちませんが、それでは大して興味深くありません。）AIが良心の呵責に悩み、「いや、いや、そんなことはできない」と言うとも思えません。私の知る限り、何らかの罪悪感モジュールをプログラムされていない限りは。そんなものは存在しないでしょう。
結局、人間も同じことをします。一人称視点シューティングゲームでも、現実でも、人を殺します。他人を組織的に殺すことを目的とする政府の部門がいくつもあります。（皮肉にも、それを「平和維持」と呼んでいます。）人間には罪悪感モジュールがありますが、たいてい事後になってから働きます。
このようなゲームが答えられるかもしれない唯一の興味深い問いは、AIシステムが人間よりも引き金を引きやすいのか、それとも引きにくいのかです。私は次のように賭けてもよいと思います。
- コンピューターと人間が対戦すれば、コンピューターが勝ちます。チェス、囲碁、ポーカーで負けた経験は、もう十分に積んできました。
- 人間のほうが銃に手を伸ばしやすいでしょう。なにしろ、それが私たちのすることだからです。DeepMindの研究によれば、コンピューターが撃つのは、勝つための効率的な戦略の一部である場合に限られます。反射的に、怖くて、あるいは楽しいから撃つわけではありません。
勝つための効率的な戦略の一環として撃つことが、人間の行動より望ましいかどうかは、あなた次第です。ただ、これはまさに私が予想することです。DeepMindは、攻撃的になることを拒んで李世乭に囲碁で勝ったわけではありません。
それでも、これはゲームの話にすぎないのですから、この実験が何かを示しているとは思えません。一人称視点シューティングゲームをAIがかなり上手にプレイすることは予想できますし、ビット列を消去しているだけなのに、第一原理からアシモフの法則を導き出す理由は見当たりません。恐ろしいボストン・ダイナミクスの製作物を相手に現実のシューティングゲームに参加するつもりはありませんし、誰もそんな実験を計画していないことを願います。
同様に、AIが自分の世界には単なるビットではないものがあると「学ぶ」理由も見当たりません。私たちは「機械学習」に魅了されていますが、結局、機械が学ぶのは私たちが学ぶように指示したことだけです。私はシンギュラリティには懐疑的ですが、コンピューターが完全に自力で、センサーから入ってくるビットパターンの一部は人間であり、そのビットパターンは犬や猫、岩石のビットパターンとは質的に異なると学べるようになったとき、シンギュラリティに直面するという点には同意します。
結局、話は出発点に戻ります。AIへの恐れは、自分自身への恐れを映し出すのです。AIが人間の行動をまねるのは、私たちがそうするよう教えるからです。ここでは、人間のルールに従うゲームをプレイさせることでそうしています。以前述べたように、よりよいAIを望むなら、私たち自身がよりよい人間にならなければなりません。人間とビットを見分けられるAIを望むなら、人間とは何か、そして人間の前ではどのように振る舞うべきかを教えなければなりません。（「オオカミは撃ってもよいが、人間は撃ってはいけない。」）そして、AIエージェントに一切撃たせたくないなら、撃つ能力のないソフトウェアを作らなければなりません。
AIに銃を持たせてはいけません。
