近年、人工知能（AI）という言葉に触れずにテクノロジーのイノベーションを語るのは難しい。メディアは、ロボットが私たちの仕事を奪いに来ると報じている。一方、起業家でテクノロジー界の先見者でもあるイーロン・マスクはさらに踏み込み、AIが人類の終焉を招く可能性があると警告している。
それほど劇的な話ではないが、AIはすでにさまざまな分野に大きな影響を及ぼしている。医療現場では、医師によるさまざまな病気の診断を支援するAIシステムの導入が進んでいる。自動運転ソフトウェアは主流になる一歩手前にあり、自動車メーカーのテスラは2017年末までにロサンゼルスからニューヨークまで車を走らせる計画だ。グーグルの自動運転車は、走行経験を何百万マイルも積み重ねている。多くのヘッジファンドが、投資アルゴリズムに機械学習モデルを取り入れている。
ここインドでも、AIの存在感が高まっている。
Grey Orange Roboticsは、倉庫業務を自動化するロボットの製造と導入で大きな成功を収めている。IBM Watson for Oncologyは、がんの診断と治療で医師を支援するため、Manipal Hospitalに導入された。ベンガルールを拠点とするスタートアップのArtleusは、インドで予防可能な失明の主な原因となっている糖尿病網膜症を早期に発見するため、機械学習アルゴリズムを活用している。
高まる懸念
こうした多様な活用が広がる一方で、AIをめぐる多くの倫理的懸念に対する不安も高まっている。
典型的な例を考えてみよう。衝突が差し迫ったとき、自動運転車は乗客2人を救うべきか、それとも道路を横断中の歩行者5人を救うべきか、どう判断すればよいのだろう。考えさせられる問いだ。
あるいは、どのローン申請を承認するかを決めるAIソフトウェアの倫理的ジレンマを考えてみよう。現在の多くのシステムが、歴史的に融資を受ける機会を限られてきた経済的に恵まれない人々を差別するという証拠がある。同様に米国では、裁判官が量刑や仮釈放を決める前に、再犯の可能性、つまり犯罪者が再び罪を犯す傾向を予測するモデルを参照するよう求められている。
最近の 報告書では、こうしたシステムに人種的偏りがあることが示されている。その結果の一例として、前科がなく、中古の自転車とスクーターを盗もうとした18歳の黒人少女が、万引きで逮捕され、武装強盗未遂で5年間服役した経験のある41歳の白人男性よりも高いリスクスコアを付けられた。これらのアルゴリズムは過去のデータから学習するため、警察活動に人種的偏りがあれば、アルゴリズムもその偏りを取り込む。つまり、偏ったデータで訓練された機械学習システムは、そうした偏見を制度に組み込んでしまうおそれがある。
AIの利用倫理をめぐる議論が高まっているのは当然だ。人間の意思決定者が考慮すべき倫理的難題の一部、たとえば命の価値や、恵まれない人々に対する根深い偏見の解消について、推論できないAIシステムをどう導入すればよいのだろう。こうした難しい問いに答えるまでAIの導入を止めるべきだと提案する人さえいる。
私は、倫理上の問題があると見なされていることを理由に、現在のAIを退けるのは許容できないと考える。なぜか。皮肉なことに、そうすること自体が非倫理的かもしれないからだ。
より大きな善
ここには、本質的に「メタ倫理」の問題がある。
失敗の可能性がわずかにあるというだけで、テクノロジーの導入を止めるべきだと、どうして主張できるのだろうか。今日活用できるAI技術が、何百万人もの命を確実に救えると分かっているのに。
人的ミスによる、あまりにも多くの交通死亡事故を考えてみよう。インドでは毎年、14万人を超える人々が道路上で命を落としている。AIを活用した自動運転技術によって、こうした死亡者を大幅に減らせることは分かっている。バスやトラックにAIシステムを搭載すれば、運転手を補助したり、代替したりできる。事故の際に自動運転車が誰を救うべきか、まだ分からないというだけで、自動運転車の導入を止めるべきだろうか。AI研究者でMicrosoft Researchの責任者でもあるエリック・ホルヴィッツは、次のように述べている。「こうした事例の一部は例外的な状況と見なされるかもしれず、非常に慎重に対処する必要がある。そして、米国で年間約3万5,000人、世界全体では毎年100万人を超える死者を車が出し続けることを容認する倫理と比較して検討しなければならない。」
医療分野では、最近の研究により、回避可能な人的ミスが原因で、インドでは年間500万人を超える人々が病院で亡くなっていることが分かった。AIによる意思決定支援ツールや警告システムを使えば、こうした死亡を大幅に減らせることは分かっている。さらに、特にインドの農村部では医師が大幅に不足している。AI技術なら、今すぐこの不足に対処できる。
今すぐ現状を改善できるのなら、AI技術の導入を加速することは、私たちの倫理的責任ではないだろうか。
難しい問い
私はAIをめぐる倫理的ジレンマを軽視しているわけではない。慎重さを捨てるべきだと提案しているのでもない。これから難しい問いに直面する。いつか人々がこうした新技術を信頼するようになるには、透明性のある議論を続ける必要がある。それでも、交通や医療のような重要な分野でAIを導入しながら、こうした懸念にも並行して対処しなければならない。AIによる判断が完璧で、私たちの期待をすべて満たすかを問うことは重要だが、欠点があっても現状を改善するのか、そしてそれだけで導入に着手するのに十分なのかも問う必要がある。
現在のAIに倫理上の問題があるのは事実だ。それでも、今日AIを導入することが倫理的である可能性はある。
