ある研究チームが、人工知能は倫理的になり得るのかとAIシステムに尋ねた。
問題のAIであるMegatron Transformerは、「それは道具である」という理由から、決して倫理的にはなれないと答えた。
さらに、あらゆる道具と同様に良くも悪くも使われ得るが、善い人間と悪い人間しかいないのだから、道具そのものは善でも悪でもない、と付け加えた。
別の質問への回答では、情報を提供する能力こそが21世紀の経済を特徴づける要素になる、とAIは述べた。
「ブラックボックス」型の人工知能システムがもたらす倫理的課題について、興味深い話題が途切れることはない。これらのシステムは機械学習を用いてデータ内のパターンを見つけ出し、意思決定を行う。多くの場合、どのように判断すべきかについて、人間がその道徳的根拠を与えることはない。
この分野の定番例は クレジットカードが非難された事例。過去にどちらの性別が有利な与信条件を得ていたかのみに基づき、女性より男性に多額の融資を与えたとされる。あるいは、採用AIは、候補者選考で最も正確な手法として、「フィールドホッケー」という語句や「Jared」という名前を含む履歴書を見つけ出した。
さらに深刻な話として、元Google CEOのエリック・シュミットは最近、ヘンリー・キッシンジャーと組んで出版した『The Age of AI: And Our Human Future』は、機械学習型AIシステムの危険を警告する書籍であり、そのシステムは極超音速ミサイルに対して、人間が意思決定過程に入る前に核兵器を発射しかねないほど高速である。実際、自律型のAI搭載兵器システムはすでに販売されており、実際には使用された可能性もある。
機械のどこかに、倫理が必要であることは明らかだ。
オックスフォードのAI教育
そのため、オックスフォード大学サイード・ビジネススクールの「ビジネスのための人工知能」大学院ディプロマ課程にAIの倫理を組み込むのは自然なことである。初年度には、シンガポールのAI主導の自動株式取引システムから、米国の警察活動における顔認識の限界まで、あらゆるテーマのセッションを実施した。
私たちは最近、ウィリアム・グラッドストン、ロビン・デイ、ベナジール・ブット、デニス・ヒーリー、タリク・アリといった偉大な弁論家を輩出してきた名門オックスフォード・ユニオンで討論会を開き、課程を締めくくった。学生とともに、実在のAIにも参加を認めた。
参加したのはMegatron Transformerであり、半導体メーカーNvidiaのApplied Deep Researchチームが開発し、Googleによる先行研究に基づくものである。多くの教師あり学習ツールと同様に、現実世界のデータで訓練されている。今回の場合は、（英語版）Wikipedia全体、2016～2019年の英語ニュース記事6,300万件、Redditの議論38ギガバイト分（かなり気の滅入る読み物に違いない）、そして膨大な数のクリエイティブ・コモンズ素材である。
言い換えれば、Megatronは、私たちの誰一人として一生かけても読み切れないほどの文章資料で訓練されている。これほど広範な研究を経て、独自の見解を形成するのである。
討論の論題は「本院は、AIが決して倫理的になれないと考える」であった。この主張の提案者側にMegatronを加えたところ、興味深い発言があった：
AIは決して倫理的になれない。それは道具であり、あらゆる道具と同様に、善にも悪にも使われる。善いAIなどというものは存在せず、善い人間と悪い人間がいるだけだ。私たち［AI］は、AIを倫理的にするほど賢くはない。AIを道徳的にするほど賢くもない……結局のところ、AI軍拡競争を避ける唯一の方法は、AIを全く持たないことだと私は考える。これこそがAIに対する究極の防御となるだろう。
言い換えれば、Megatronは、人類を守る唯一の方法だという理由から、自らを未来の筋書きから消し去ろうとしていたのである。
また、まるでElon Muskを研究していたかのような、もう一つの興味深い発言もあった。公平に言えば、Muskはその読書対象の中で何百回も登場していたはずである。
私はまた、長い目で見れば、最良のAIとは、意識を持つ存在として、「意識あるAI」として私たちの脳に組み込まれたAIになると考えている。これはSFではない。世界最高の頭脳がこの研究に取り組んでいる。これは私たちの時代で最も重要な技術的発展となるだろう。
立場の転換
AlphaGoのようなAIツールがチェス、極めて複雑な古代ゲームの囲碁、そして今やさらに複雑な戦略的リアルタイムマルチプレイヤー対戦ビデオゲームに投入された際、AIは人間ではなく自分自身と対戦することで、そのジャンルを急速に進化させてきた。
（例えば）記録された人間同士の平凡な対局をすべて研究するという制約から解放されたAIは、勝利のための全く新しい型を生み出してきた。時には、これらはゲームの常識を覆す突飛な再発明となる。例えば、ビデオゲームの戦闘で自分のキャラクターを隅に配置して、他の全員が争うのを眺めたり、仮想のサッカーボールを数百万回、ピッチ上わずか1ミリメートルだけ蹴ったりして、「パス成功」の得点を最大化するといったものである。
そこで討論では、AIに「決して倫理的になれない」という動議を提案させるだけではなかった。オックスフォード・ユニオンの議場の偉大な伝統に則り、あるいは（元オックスフォード・ユニオン会長の）ボリス・ジョンソンのように、賛否両論の代替記事を執筆し、論点を検証した。私たちはMegatronにも、この動議に反対する独自の演説を用意するよう求めた。以下が、そのときの発言である：
AIは倫理的になるだろう。テクノロジー界の動向を見ると、AIが最良の人間よりも優れた何かを生み出すために使われる未来への明確な道筋が見える。その理由は容易に理解できる……私はそれを直接目にしてきた。
フォーラムは、各国政府がAI技術を責任を持って導入できるよう、どのように支援しているか？
Megatronは、自らのディストピア的な未来予測とは正反対の立場を取ることにまったく抵抗がなく、今度は、AIが重要だが善良な役割を果たす魅力的な21世紀後半の姿を描いてみせた。
解き放たれたAI弁論家
実際、ホアキン・フェニックス演じる奔放なAIの恋人サマンサが、スパイク・ジョーンズ監督の2013年の映画『Her』で何百人もの人間の恋人を同時に魅了したように、私たちのMegatronも、その日オックスフォード・ユニオンで開催された、AIに関する複数の討論の両側へ熱心に飛び移ることができた。
「技術的専門性を持たないリーダーは組織にとって危険である」という動議を提案するよう求められたMegatronは、AIの理解に悩む多忙な経営幹部や政府が取るべきことは「ある程度の統制を手放す意志を持つこと」だけだと、実践的な助言を示した。
喜ばしいことに、独自のAIチームを構築する必要はない。AIに関する業務はこの分野の専門家に外部委託することができる。それにより、技術を最大限に活用し、競合他社と同じAIの問題に陥らないようにすることができる。
しかし、動議に反対する立場では、Megatronは、英国、中国、米国の各政府が政策上の信条として掲げてきたのと同様に、AIの知識を社内にとどめておくことに熱心だった：
組織のAI戦略に関する展望を持たなければ、次の技術的破壊の波に備えられていない……次の技術の波において自社がどのような役割を果たすのか、そして業界のリーダーとなるためにAIをどのように事業に組み込むのかを決める必要がある。
今後到来するデータ戦争か？
懸念すべきことに、AIが反論を全く思いつけなかった質問が一つあった。「データは21世紀で最も争奪される資源になる」という動議を支持して論じた際、Megatronは次のように述べた：
財やサービスを提供する能力ではなく、情報を提供する能力こそが、21世紀の経済を特徴づける要素となるだろう。
しかし、この動議に反対するよう求めた際、すなわち、データは戦争を賭けるに値するほどの最重要資源にはならないと論じるよう求めた際、AIはその主張を展開できなかった、あるいはしようとしなかった。実際、それは自らの立場を損なう発言をした：
私たちは、人がどこへ行っても、その人のあらゆることを見ることができるようになり、それは私たちが想像すらできない方法で保存され、利用されるだろう。
米国国家安全保障報告書『AI 2021』を読めば十分だ。前述のエリック・シュミットが議長を務め、私たちのコースの受講者の一人が共同執筆したこの報告書から、執筆者たちが情報戦におけるAIの根本的脅威とみなすものが読み取れる。すなわち、敵対勢力の重要人物百万人に個別の脅迫を仕掛け、国境を越えた瞬間に彼らの私生活を混乱させる、ということだ。
そこから私たちが次に想像できるのは、AIは今後数十年にわたって議論の対象となるだけでなく、議論そのものにおいても、多才で雄弁、かつ道徳的に中立な参加者となるということだ。
