人間とAIは共存する術を学べると、オーストラリア首席科学者のアラン・フィンケル博士は言う。しかし、そのためには信頼とチューリング認証が必要だ。
私は毎日、たぶん一度も会うことのない何百人もの人々に命を委ねている。私の車を設計し、製造した人々。店で買った昼食を用意した人々や、職場にコンセントを設置した人々。ほかにも数え切れないほどいる。
見知らぬ人間を信頼する力こそが、私たち人類が地球を支配する理由だ。私たちは創意に富み、絶え間なく新しく優れた技術を探し求めることで前進してきた。しかし、大勢で協力する才覚や、電気のような危険な力を安全で有益な目的に使いこなす能力がなければ、創意工夫だけでは不十分だっただろう。
現代世界を築くために、私たちは、他者を頼れるようにする複雑な仕組み、すなわち法律や規制、業界慣行、社会規範を作り上げなければならなかった。
では、人工知能を信頼するには何が必要だろうか。車を運転させることだろうか。子どもを見守らせることだろうか。脳スキャンを分析し、腫瘍を摘出する手術器具を動かさせることだろうか。コンサート会場の群衆を監視し、5年前の強盗事件の犯人を特定させることだろうか。
まず信頼する
今日、私たちはその問いに、深く考えずに答えがちだ。利用規約を読む人は少なく、同意欄にチェックを入れて、AlexaやGoogle Homeのような音声アシスタントを家に招き入れる。警察や信用組合、福祉機関の背後で稼働し、私たちが暮らす地域社会のあり方を左右するアルゴリズムについても、深く考えることはない。
AI技術が急速に進化していること、中国やフランスのような国々の潤沢な資金に支えられた野心がその発展を加速させること、そしてAmazon、Google、Facebookが膨大なデータセットを保有することで、私たちが不安を覚えるほどの規模の実験が可能になることは、確かなことだ。
医療機器など、AIの一部の用途には既存の規制制度が適用される。しかし、その多くはAIを念頭に設計されたものではない。また、今日、世間が最も懸念するAIの用途、つまりソーシャルメディアでの利用は、現行法の限界を露呈させている。
AIを信頼するという前提は、いつまで持ちこたえられるだろうか。科学者たちは以前にも同じ状況を経験している。何十年もの間、バイオテクノロジーをめぐる議論は「遺伝子」という言葉への広範な不信に悩まされてきた。同じように、製薬業界や農業界は「化学物質」への恐怖にさらされてきた。消費者が「遺伝子を含まない食品」や「化学物質を含まない水」を求めるようになり得るのなら、「AIのないインターネット」を求める声や、AI禁止を求める声が上がることも想像に難くない。
確かに、そのような禁止を徹底することはできないだろう。しかし、私たちが最もAI開発を望む場所、つまり倫理的で信頼できる組織での開発を止めてしまうことは十分あり得る。私たちは、もっときめ細かな姿勢で臨まなければならない。人類が成し遂げた特筆すべきこと、すなわち信頼を築くことを思い出せば、それが可能だ。
礼儀が大切
人間社会で機能している、洗練された幅広い統制の仕組みを考えてほしい。ここでは、それをHuman Intelligence（人間の知能）にちなんで「HI社会」と呼ぶことにする。
この幅の左端には、社会規範、いわば礼儀作法と、望ましい行動を促す仕組みがある。右へ進むと、教室や職場での振る舞いを定める組織内規則や、市場での取引に関する商業規制がある。さらに進むと、迷惑な駐車のような軽微な違反への罰金があり、その先には強盗や暴行などの犯罪に対する刑罰がある。右端に近づくにつれて、計画的殺人やテロのような重大な犯罪に対する厳罰がある。そして最も右端には、大量破壊兵器を禁じる国際合意の条約がある。
AIにも同様の統制の幅が必要だ。とりわけ左端には、懸念すべき空白がある。そもそも、ソーシャルメディア企業がAIを使う際の「望ましい行動」とは何だろうか。それはどこに記されているのか。HIとAIが平和的かつ生産的に共に成長できるよう、その規範を誰がAIに組み込むのか。
試行錯誤、あるいは不祥事とその対応を通じて、規範が形作られることもあり得る。しかし、緊張が高まる状況では、信頼を揺るがす危機から次の危機へと場当たり的に移るだけで、筋の通った考え方が生まれる可能性は低い。
子どもに教える礼儀作法に相当するものが必要だ。子どもが好ましくないことをするまで待ち、罰しながら規則を作るわけではない。最初の日から、倫理的に行動することへの期待を育む。
HI社会の礼儀作法はそれぞれ異なるが、どれも相互尊重を通じて人々が安心できるように設計されている。AIの開発者はこの点を心に留め、最初から企業モデルに組み込み、事業活動の現実として一貫して徹底する必要がある。
基準を引き上げる
「素早く動き、物事を壊す」ことで評判を得ている業界を規制する提案には、必ず抵抗があるだろう。その気持ちは理解できる。私が自分の会社、Axon Instrumentsを拡大して医療機器を製造しようとしていたとき、コンプライアンス要件を不安な思いで見ていた。生きた人間の脳に外科的に埋め込む電気機器に対し、規制当局が厳格な基準を設けるのは当然だと理解していた。それでも、途方もない苦労を覚悟していた。
最終的に気づいたのは、基準とコンプライアンスの全プロセスこそ、品質を強みに競争する会社を築くために必要な枠組みだったということだ。真の品質は、検査して不合格品をはじくのではなく、設計段階で作り込むことで実現する。国際標準化機構（ISO）のISO 9000品質マネジメントシステムは、製品の構想から製造、保守、交換に至るまで、高い期待水準を設計や業務慣行に組み込むことを確実にする。コンプライアンスは、内部監査と外部監査を組み合わせて確保される。これらの厳格な設計・業務慣行は、医療以外の製品でも維持した。会社をより良くし、競争上の優位をもたらしたからだ。
HI社会では、社会基準に届かない場合に結果が伴う。AI開発者にも同じ仕組みが必要だ。消費者が倫理的な行動を見分け、それに報いるための方法である。
新たな信頼のかたち
最も分かりやすい方法は、AIの信頼マークだろう。偉大なアラン・チューリングにちなみ、「チューリング認証」と呼ぼう。チューリング・スタンプは、事業者と製品がチューリング認証を受けていること、つまり信頼に値することを示すマークとなる。
信頼できる組織と信頼できる製品の組み合わせが重要だ。このモデルは製造業で長く定着している。実際、設計、製造、業務慣行について合意された基準が導入されていなければ、安全上の理由から、私たちの社会は何年も前にあらゆる電気機器を完全に拒絶していただろう。そして今日、AIを心配することもなかったはずだ。
製造業では、基準は義務であり、法的に執行できる。製造工程は目に見えやすく、地理的な拠点も明確だ。AI開発は実態をつかみにくい。チューリング認証を義務化すれば、煩雑になるだろう。任意のチューリング認証なら、新興企業を含む責任ある企業が参加できる。基準には、十代になってからぶつかるより、成長とともに身につけるほうがよい。適切に運用すれば、認証取得の費用は、割増価格を払う意思のある顧客からの売上増で賄えるはずだ。
ただし、企業、消費者、政府のすべてが制度を信頼できなければ、遵守する商業的な動機は生まれない。チューリング認証を受けた組織はすべて、事実上、チューリングの大使となる。品質を強みにする賢明な企業は、不適切な行動を排除する監査プロセスを歓迎するだろう。Axon Instrumentsや何千もの企業が、医療機器と非医療機器を販売する特権を得るため、定期的な内部・外部の品質監査を受け入れているのと同じだ。
同時に、市民は十分な情報に基づいて判断する機会を歓迎するだろう。そして、無秩序な状態を受け入れることと、AIを生活から締め出すことの中間の道を歩めるようになる。
HI社会で協力できるのなら、HIとAIを共に育むという重要な取り組みにおいても、きっと協力できるはずだ。
注：本稿は、世界経済フォーラム第4次産業革命センターの人工知能・機械学習部門責任者であるケイ・ファース＝バターフィールドと、本稿の著者であるオーストラリア首席科学者アラン・フィンケルとの幅広い対話の一部である。
