人工知能（AI）への信頼を築き、その恩恵を最大化するために、公正で安全かつ包摂的な利用を確保するには、透明性と責任ある枠組みが不可欠です。
AIの設計、開発、導入の全過程に多様なステークホルダーやスキルを取り込むことで、協働が促され、偏りが軽減し、組織内の支持が高まります。
透明性のあるガバナンス、先を見越したコミュニケーション、アルゴリズム上のガードレールは、リスクの軽減、信頼の促進、そして産業や人々の暮らしを変革するAIの可能性を引き出すうえで重要です。
人工知能（AI）は、さまざまな形で産業、企業、個人の暮らしを大きく変革しようとしています。健康、安全、教育の向上に役立つでしょう。さらにAIは、不平等、貧困、気候変動といった地球規模の課題への取り組みを後押しします。
AIは善をもたらす大きな力となる可能性を秘めているにもかかわらず、依然として大きな不安と不信感が残っています。YouGovの調査に回答した米国の回答者のほぼ半数（49%）が、この技術に懸念を感じると答え、YouGovの調査22%は恐怖を感じると答えました。
さらに、一部のメディア評論家は、AIへの反発が広がっていると指摘しています。それにより、世界をより良い方向へ変える、時間を節約し、時には命を救うAIシステムを組織が導入する力が制限されるおそれがあります。
では、AIによる変革を自信を持って推進するために、リーダーは人々の懸念にどう対処すればよいのでしょうか。
透明性のあるアプローチを採用する
広範な不確実性と不信感が広がるこの時代にAIへの信頼を育むには、導入に関わるすべての関係者の誠実さと透明性が必要だと、私は強く信じています。残念ながら、これまで常に実践されてきたわけではありません。
顧客、従業員、その他のステークホルダーなど、人々を組織のAI戦略の中心に据えることも不可欠です。
顧客と仕事をしてきた私自身の経験から、AI導入において透明性のあるアプローチを取るには、リーダーが次のことを行う必要があると感じています。
1. AIの責任ある利用を支える枠組みを策定する
枠組みは、適切な説明責任と透明性を確保し、環境への影響を考慮しながら、AIを公正、安全かつ包摂的に責任を持って利用できるようにします。組織がAIを責任を持って利用しているとステークホルダーが考えれば、その組織のAIモデルを信頼する可能性が高まります。
組織は、NIST AIリスクマネジメント・フレームワークのような外部のAIガイドラインを採用したり、内部の枠組みを策定したりできます。EYは、倫理的で責任あるAIの原則を策定しており、この枠組みは社内および顧客との取り組みで活用されています。
2. 当初からステークホルダーに積極的に関与してもらう
AIシステムの開発に人間が関与し続けることは、2つの理由から不可欠です。第一に、トップダウンで決定するのではなく、あらゆる階層のステークホルダーを関与させる必要があります。第二に、透明性を支える重要な監視と監督を人々が担います。つまり、AIモデルが意図どおりに機能しているという重要な保証を提供するのです。
AIについて透明性を確保するとは、システムの意図する機能について誠実に説明することです。
AI導入を計画する際には、ステークホルダーに課題を尋ね、AIツールがどう解決に役立つかを確認することが重要です。システムが何を達成することを目指し、仕事にどう役立つのかを事前に伝えることで、説得力のあるビジネスケースの策定を支援できます。また、AIに仕事を奪われるかもしれないという不安を和らげることにもつながります。
3. 多様なスキルを設計と構築に取り入れる
AIツールが社会や組織の効率性にプラスになると受け止められるには、設計と構築に多様なスキルを取り入れる必要があります。多様な開発チームは、AIシステムに伴う最大のリスクの一つである偏りのリスクを軽減するうえで不可欠です。
また、多様な経験や視点を持ち寄ることで、幅広いステークホルダーのニーズや期待に組織のAIツールを応えさせる助けにもなります。
4. 導入に「村」全体を巻き込んで協働する
技術的に言えば、新しいAIシステムの構築には、技術の専門家やプロジェクト管理の人材から成る「村」全体が必要です。構築後にシステムを導入する際にも、同じ原則が当てはまります。
データサイエンティストや業務プロセスの責任者から、人事、チェンジマネジメント、法務の担当者まで、「村」は組織全体に広がります。システムを展開し、従業員が責任を持って使えるようスキルを高めるためです。協働により、新しいシステムの透明性が高まり、従業員の強い支持も促されます。
5. 優れたガバナンスの原則を適用する
取締役会は、組織が許容するAIリスクの水準を定め、AI戦略を高い視点から精査する役割を担うべきです。また、AIが責任を持って利用、導入されること、そしてAIツールの利用者全員が適切な研修を受けることを確保する必要があります。
もう一つの優れた原則は、AIのユースケースごとに承認プロセスを設けることです。これにより、リスクと機会を適切に評価し、ガードレールを適切に適用できます。
6. AIモデルにガードレールを組み込む
ガードレールは、責任あるAIモデルの利用に不可欠です。アルゴリズム上の安全措置として捉えることができます。すなわち、AIシステムが倫理的かつ合法的に動作するよう設計された、事前に定められたフィルター、ルール、ツールの一式です。
AIモデルを利用する前に徹底的にテストすれば、リスクや脆弱性の所在を明らかにし、ガードレールの実装に役立ちます。たとえば、ハルシネーションを防ぎ、AIモデルが有害な出力を生成するリスクを最小限に抑えられます。
AIの透明性を確保しなければならない理由
AIについて透明性を確保するとは、システムの意図する機能、組織全体の戦略における位置づけ、もたらす利点と課題、人々への影響の見通しについて誠実に説明することです。また、AIモデルがなぜそのような判断を下すのかを説明することも意味します。
残念ながら、今日のAI導入の多くは謎に包まれたままで、少数のステークホルダーが強力なソリューションを密室で開発しています。その結果、人々はツールを信頼せず、利用に抵抗するようになり、社会に有害な影響が及びます。
こうした抵抗によって、企業を変革し、経済を成長させ、人々の暮らしを向上させるAI技術の活用が妨げられるおそれがあります。だからこそ、AIの透明性を確保しなければなりません。
本記事に記された見解は著者個人のものであり、EYグローバル組織またはそのメンバーファームの見解を必ずしも反映するものではありません。
