人間が作った機械が創造主に反旗を翻す可能性は、近ごろ注目を集める話題となっている。疑いなく、アイザック・アシモフのロボット工学三原則は、もはや現在の目的に適していない。世界全体の公益のため、際限のない野心、そして人類そのものを守る、実効性があり、より具体的なものが必要だ。
今日、インターネットは世界人口の半分を超える人々をつないでいる。インターネットは利便性と効率をもたらす一方で、脅威ももたらす。ビッグデータや人工知能が日常生活のかなりの部分を動かす時代には、特にそうだ。アルゴリズムは、私たちが何を読み、どこへ行き、どうやってそこへ行くか、どんな音楽を聴くか、何をいくらで買うかを決めるために広く使われている。自動運転車、自動がん診断、機械による文章作成は、大規模な商用化にかつてないほど近づいている。
データが新たな石油なら、AIは新たな掘削装置だ。このたとえを続ければ、誤作動するアルゴリズムは新たな汚染である。
誤作動は悪意と同じではないことに留意する必要がある。同様に、善意があれば法律、倫理、社会に関する問題が生じないという保証もない。AIをめぐってはすでに、意図しない振る舞い、先を見通す力の欠如、監視や監督の難しさ、分散した責任、プライバシー侵害、アルゴリズムの偏りや悪用など、数多くの問題が見られる。さらに、スマートマシンが人間の労働に取って代わることで失業率が上昇する可能性を懸念し始めた研究者もいる。
迫り来る問題
近ごろ、問題を起こすAIがますます広がっている。ある顔認識アプリは、アフリカ系米国人にゴリラのタグを付けた。別のアプリは、米国議会議員28人を指名手配中の犯罪者と判定した。米国の裁判所が使うリスク評価ツールは、アフリカ系米国人に対して偏りがあると指摘された。ウーバーの自動運転車はアリゾナ州で歩行者を死亡させた。フェイスブックなどの大企業は、差別的な広告慣行をめぐって訴えられた。そして、致死性のAI搭載兵器が開発されている。
私たちは未知の領域へと進んでいる。だからこそ、正しい方向へ導く羅針盤となるルールと指針が急務だ。テクノロジー倫理はかつてないほど重要になっており、こうしたルールと原則の中核にならなければならない。
このような枠組みを築くための初期の取り組みにも目を向けるべきだ。代表的な例として、アシロマAI原則や、IEEEの倫理基準と認証プログラムがある。
2018年末には、テンセントの創業者兼CEO、ポニー・マーが、AIガバナンスのための倫理的枠組みとしてARCC（利用可能、信頼できる、包括的、制御可能）を提案した。
利用可能、信頼できる、理解可能、制御可能：ARCC
マーの枠組みは、中国をはじめ世界各地でAIシステムを統治するための基盤となりうる。その目的は、これから何千年にもわたり、人類と機械の友好的で健全な関係を確かなものにすることだ。
利用可能。
AIは一部の人だけでなく、誰もが利用できるものであるべきだ。スマートフォンやノートパソコンの恩恵に慣れきっている私たちは、世界の半分がいまだにこのデジタル革命から取り残されていることを忘れがちだ。
AIの進歩はこの問題を解決すべきであり、悪化させてはならない。開発途上地域に暮らす人々、高齢者、障害のある人々をこのデジタル世界に迎え入れる必要がある。人類全体の幸福こそが、AI開発の唯一の目的であるべきだ。そうすれば、AIが一部の人々の利益を他の人々より優先することを防げる。
最近の医療ボットの開発を例に挙げよう。Miyingは、テンセントのAIを活用した医療画像診断ソリューションで、現在、各地の数百の病院で放射線科医と連携している。このがんの事前スクリーニングシステムは、数十億枚の医療画像を学習し、リスクの高い症例を数十万件検出した。ボットはそれらの症例を専門家に紹介する。これにより、医師は画像を確認する日々の作業から解放され、患者の診療により多くの時間を割ける。
さらに、誰もが利用できるAIは、公平なAIでもある。完全に合理的な機械は、感情的であることや偏見を持つことなど、人間の弱点に左右されず、公平であるはずだ。しかし、それを当然視してはならない。マイクロソフトのチャットボットが下品な言葉を使ったような最近の事例は、不正確、不完全、または偏ったデータを与えられると、AIが深刻な問題を起こしうることを示している。ここでは「設計段階からの倫理」のアプローチが望ましい。つまり、AIの開発過程で偏りを注意深く特定し、是正し、取り除くことだ。
規制機関はすでに、偏見や差別に対処するための指針や原則を策定している。グーグルやマイクロソフトなどの企業も、AI研究を導く社内倫理委員会を設けている。
信頼できる。
AIはすでに何百万もの家庭に導入されているため、安全で信頼でき、サイバー攻撃やその他の事故から守れるものでなければならない。
自動運転車を例に挙げよう。テンセントはレベル3の自動運転システムを開発しており、深センの公道で自動運転車を試験する許可を得ている。しかし、試験許可を得る前に、自動運転車は閉鎖された試験場で1,000キロメートルを超える走行試験を受けている。認証に関する基準や規制がまだ整備されていないため、今日、実際の自動運転車が公道で商用利用されている例はない。
さらに、AIが信頼できるものであるには、特にプライバシーに関して、デジタル、物理、政治の各面で安全性を確保すべきだ。利用者の同意なしに、AIシステムの学習用に個人データが収集された事例がある。そのため、AIはプライバシー要件を順守し、設計段階からプライバシーを保護し、データの悪用を防がなければならない。
理解可能
AIシステムは非常に複雑で、これは言うほど簡単ではない。ディープニューラルネットワークでは、入力と出力の間にある隠れ層のために、開発者でさえ仕組みを理解できない。その結果、アルゴリズムが関係する自動車事故が起きた場合、誤作動の原因を突き止めるまでに何年もかかることがある。
幸い、AI業界ではすでに説明可能なAIモデルの研究が進んでいる。アルゴリズムの透明性は、理解可能なAIを実現する一つの方法だ。利用者は製品の背後にあるアルゴリズムを気にしないかもしれないが、規制当局は技術的な詳細を深く把握する必要がある。それでも、AIシステムが支援または決定した判断について、利用者に分かりやすい情報や説明を提供するのが望ましい。
理解可能なAIを開発するには、社会の参加と個人の権利の行使を保障し、促進する必要がある。AI開発は営利企業だけの秘密の取り組みであってはならない。エンドユーザーである一般の人々は、高品質なAIの開発に欠かせない貴重なフィードバックを提供できる。
テクノロジー企業には、AIシステムの目的、機能、限界、影響に関する情報を顧客に提供することを義務付けるべきだ。
制御可能
最後に、しかし決して軽視できない原則は、私たち人間が常に主導権を握るようにすることだ。
あらゆるイノベーションにはリスクが伴う。しかし、人工汎用知能によって人類が滅亡するという懸念のために、新しいテクノロジーでより良い未来を目指すことを妨げられてはならない。私たちがすべきなのは、AIの恩恵が潜在的なリスクを大幅に上回るようにすることだ。それを実現するには、予見可能なリスクから守るため、適切な予防措置を確立しなければならない。
今のところ、人々はAIより見知らぬ人を信頼することが多い。自動運転車は危険だ、フィルターは不公平だ、推薦アルゴリズムは選択肢を狭める、価格設定ボットは料金をつり上げる、といった声をよく耳にする。こうした根深い不信感は、情報不足に根ざしている。私たちの多くはAIに関心がないか、理解するために必要な知識を持っていないからだ。
私たちはどうすべきか。
AI開発者とその製品が、ふさわしい信頼を得る助けとなるよう、倫理的枠組みを起点とした幅広いルールを提案したい。
一方の端には、社会的慣習、道徳的規範、自主規制など、緩やかなルールがある。前述の倫理的枠組みはここに当てはまる。国際的には、グーグルやマイクロソフトなどの大企業が独自のAI原則を策定し、アシロマAI原則やIEEEのAI倫理プログラムも高く評価されている。
この幅の中で進むと、基準や規制といった、義務を伴う拘束力のあるルールがある。今年、私たちは自動運転車に関する政策報告書を執筆し、多くの国が自動運転車を促進すると同時に規制する法律を制定しつつあることを確認した。将来、AIに関する新たな法律が生まれるだろう。
さらに進むと、AIの悪意ある利用を行う者を罰する刑法がある。最も強い規制の端には国際法がある。例えば、一部の国際法学者は、特定通常兵器使用禁止制限条約と同様に、致死性自律兵器に関する条約を国連が策定するよう働きかけている。
制御された核反応であれ、人型ボットであれ、新しいテクノロジーは本質的に善でも悪でもない。それを善いものにできるかどうかは、私たち次第だ。
