人工知能(AI)は世界で最も議論されている技術トレンドの一つであり、2030年までに世界のGDPを15.7兆ドル押し上げると予測されています。
しかし、この新興技術がもたらす変革的な恩恵にはリスクが伴っており、責任あるAIの原則へのコミットメントが必要です。
企業はまもなく世界のAI規制への対応を求められ、競争力を維持し法的責任を回避するために、責任ある取り組みを行う必要が生じます。
人工知能(AI)は、今日のビジネス成長を支える最も議論されている技術トレンドの一つです。2030年までに、AIは世界のGDPを15.7兆ドル押し上げると推定されています。これは、現在の中国とインドを合わせた生産量を上回る規模です。
しかし、大きな力には大きな責任が伴います。AIの変革的な恩恵が明らかになるにつれ、リスクも顕在化しています。アルゴリズムはバイアスを生じさせる可能性があり、防ぎ得る誤りや不適切な意思決定を招き、支援の対象となる人々の不信感を引き起こすこともあります。AI開発の前例のない速度を懸念し、多くの組織が責任あるAIの原則へのコミットメントを始めています。
責任あるAIは、有益なAIの開発と展開における倫理、道徳、法的価値を対象とする、AIガバナンスの新たな分野です。ガバナンスの枠組みとして、責任あるAIは、特定の組織が個人と社会の利益のために、AIに関する課題にどのように対応しているかを文書化するものです。
過去数年間、技術政策に関わるすべての組織が、その利用に関する指針原則を提案してきました。その中には、Google、IBM、そして経済協力開発機構(OECD)なども含まれます。
AIのリスクに対する懸念の高まり
しかし、AIへの関心の高まりとともに、意図しない結果の増加が懸念されており、システムの技術的側面とガバナンスの実践の両方にリスクが及んでいます。
数多くの研究によって、AIを用いた意思決定が、予測型警察活動のアルゴリズムにおける人種プロファイリングから、性差別的な採用決定に至るまで、偏った結果を招きうることが示されています。このため近年、世界各国の政府はAIを対象とする規制を強化しており、責任ある、倫理的な、あるいは信頼できるAIの取り組みの導入が進んでいます。
欧州レベルでは、EU委員会が人工知能に関するハイレベル専門家グループを設置しました。同グループは、責任ある信頼できるAIのための統合的な枠組みの策定を担うとともに、AI責任指令も提案しています。
この指令は、企業が有害なAIを開発・展開することを防ぐための、より広範な取り組みの一環として、企業が損害を与えた場合に訴訟を起こしやすくすることを目的としています。また、提案されているEU AI法に追加の層を加えるものであり、同法は、警察活動、採用、医療などの用途における「高リスク」のAI利用に対して追加の審査を義務付けます。
ただし、欧州だけが取り組んでいるわけではありません。米国ホワイトハウス科学技術政策局は最近、AI権利章典の青写真を公表しました。これは、危害を防ぐためのAIガバナンスに関する米国政府の構想を示すものです。また中国は、AIのさまざまな用途を規制するための一連の法律を提案しています。こうした規制体制が施行されるにつれ、企業はグローバルな規模で事業運営の方法を見直す必要が生じるでしょう。
ブレークスルーに遅れをとる責任あるAI
AIをより責任あるものにすることの魅力は多くの人に理解されていますが、それを適切に実現できている例は少ないのが現状です。
AI開発の速度は衰える気配がありません。ブレークスルーは速く、規制のスピードを急速に上回っています。過去1年だけでも、テキストから画像を生成する深層学習モデルから、考えうるあらゆる質問に答えることができる大規模言語モデルに至るまで、さまざまな進展が見られました。進歩は目覚ましいものの、新たなブレークスルーごとに生じうる潜在的な害に対応し続けることは、絶え間ない課題となり得ます。
MIT Sloan Management ReviewとBoston Consulting Groupが公表した報告書によれば、問題は、多くの企業がそもそも自社が問題を抱えていることすら認識できていないことにあります。
同報告書の回答者の42%にとって、AIは最優先の戦略課題でしたが、責任あるAIプログラムを導入していると答えたのはわずか19%でした。この格差は失敗の可能性を高め、企業を規制上、財務上、そして評判上のリスクにさらします。
責任あるAIは、単なるチェックリストの作業や、追加機能の開発以上のものです。 組織は、自動化されたシステムが法的、社内的、そして倫理的な境界の内側で運用されるよう、AIの導入に備えて大規模な構造的変革を行う必要があるでしょう。
顧客、従業員、株主は、組織が責任を持ってAIを利用することを期待しており、各国政府もそれを求めています。ブランドの評判やAI利用に対する懸念を示す人が増えている今、これは極めて重要です。
企業は社会的・倫理的責任を主要な戦略的優先事項とする動きを強めています。主要な課題は、危険から守りつつ、その利点を責任を持って最大限に引き出す方法をどのように見出すかです。
責任あるAIを確保するための監査
有害な結果や意図しない結果を最小限に抑えること、あるいはそれらが発生しないようにすることは、AIプロジェクトのライフサイクル全体を通じて求められます。そのためには、AIアプリケーションの設計、導入、保守の各段階において、責任ある原則が果たす役割を包括的に理解することが必要です。
AI監査とは、アルゴリズムの安全性、適法性、倫理性を評価、軽減、保証するための研究および実践です。AI監査の目的は、技術的機能とガバナンス構造の両面からリスクを洗い出し、それらのリスクを軽減するために取るべき措置を提言することにより、システムを評価することです。
システムを評価する際には、次の5つの要素を検討することが重要です:
有効性:システムが意図された機能を果たし、期待どおりに動作するかどうか。
堅牢性または信頼性:システムは信頼でき、安全かつセキュアであるべきであり、改ざんや学習データの侵害に対して脆弱であってはならないという考え方。
バイアス:システムは、個人やグループに対する不公平な扱いを避けるべきである。
説明可能性:システムは、利用者、開発者、規制当局が理解できる判断や提案を示すべきである。
プライバシー:システムはデータ最小化の原則に従って学習させるとともに、個人情報や重要データの漏えいを軽減するためのプライバシー強化技術を採用すべきである。
誰もが責任あるAIを求めている一方で、それを実現できているところはほとんどないようです。しかし、AIにおける責任の確保は決して軽視できません。それは、AIシステムが効率的に機能し、倫理的基準に従って運用され、将来的な評判上および財務上の損害の可能性を防ぐことに役立つからです。
さらに、企業はまもなく世界のAI規制への対応を求められ、競争力を維持し法的責任を回避するために、より責任ある取り組みを行う必要が生じます。前進するための最善の方法は、早期に着手し、責任あるAIへのより包括的なアプローチのために、幅広い主要ステークホルダーと協働することです。
