AIを内包するシステムを信頼するには

• 自己学習型システムが人々や環境に関する意思決定をますます担うようになる中、AIの安全な利用の確保が優先課題となっています。

• 今後施行されるEU AI法は、AIの利用を規制する方法について、事実上の世界標準を定める可能性が高いと考えられます。

• DNVの推奨慣行「AIを活用したシステムの保証」の目的は、EU AI法への適合性を実証することです。

人工知能（AI）技術は、ビジネスの発展、生活の向上、そして地球規模の課題への取り組みに大きな可能性を秘めています。データから学習できるため、新たなデータが利用可能になるたびに、自己学習型システムの機会をもたらします。このように動的に学習し性能を向上させる能力は、従来のソフトウェアプログラムでは実現が容易ではない利点と機会をもたらします。

AIの初期の利用は、主にチャットボットや自動化された消費者向けレコメンドシステムなど、AIが誤った判断を下しても高いリスクをもたらすとは考えられていなかったシステムに焦点が当てられていました。しかし、自己学習型システムが、最終的に人員、資産、環境の安全に影響を及ぼしうる意思決定をますます担うようになるにつれ、AIの安全な利用を確保する必要性が優先課題となっています。

AIは新たな倫理的課題も生み出しています。AIはデータ駆動型であるため、データに含まれる非倫理的な行動やバイアスを強化するおそれがあります。報酬ハッキングやディープフェイクといった意図しない利用は、AIの倫理的かつ責任ある利用に対処する必要性を浮き彫りにしています。

ChatGPTのような生成AIの近年の進歩は、ほぼ人間に近い創造性を示しており、ステークホルダーに与えうる影響を高めています。このような状況においては、従来の品質保証およびテストの体制では不十分です。

AIの安全かつ信頼できる利用を確保するためには、いくつかの側面が整備される必要があります。

• AIに関する関連規制および適切な要件

• AIを内包するシステムの理解

• 適切な保証。

AIに関する関連規制

EU AI法は、AIの利用を規制する方法について、事実上の世界標準を定める可能性が高いと考えられます。同法の主な目的は、AIの開発と普及を加速させるとともに、その利用がEUの価値観に沿ったものとなるようにすることです。AIがいずれ何らかの形で規制されることが見込まれる中、今後施行される本規制は、規制上の不確実性を解消し、業界にとって公平な競争条件を生み出すものです。

AI法には、AIのライフサイクルを通じて、AIの開発者と利用者の双方に対する具体的な要件が定められています。その焦点は、AIの利用に関する倫理的、法的、技術的側面にあります。高リスクのAIアプリケーションについては、適合性評価に関する追加要件もあります。ただし、AI法には、そのような適合性をどのように実務上で実証すべきかについての具体的なガイドラインはありません。

そのためDNVは、「AIを活用したシステムの保証」と題する新たな推奨慣行（RP）を策定しました。このRPは、EU AI法への対応として、またAIを内包するシステムに対する顧客の信頼への必要性に応えるものです。RPは、AIへの信頼をどのように構築できるかについて、広範かつ深い視点を取り入れています。EU AI法が対象とする信頼の多様な側面（技術的側面および非技術的側面）に対応するとともに、主張に関する根拠に基づく推論を用いて信頼を構築する実践的な方法を示しています。RPは、2023年第1四半期に外部意見聴取に付される予定です。

AIを内包するシステムの理解

RPの重要な部分は、AIを理解するためにシステム的なアプローチを取り、その利用が現実世界にどのような潜在的影響を及ぼしうるかを検討することです。AIを内包するシステムには、サイバーフィジカルシステム（船舶、風力発電機、電力網、医療機器など）や、純粋なデジタルシステム（デジタルツイン、ブロックチェーンなど）があります。いずれの場合も、最終的に関心があるのは、人員、資産、環境に対する現実世界での影響です。特に、当社のAI RPは、DNVが産業デジタル化アプリケーションの構成要素の保証に用いる、より広範な仕組みの一部です。この仕組みには、データ、アルゴリズム、センサーシステム、シミュレーションモデルの品質、およびサイバーセキュリティの堅牢性を扱うRPも含まれます。

AIを内包するシステムは、多くの場合複雑であり、システムの挙動を完全に説明することは困難です。さらに、技術、倫理、法律の各側面が相互に作用することで、複雑性がさらに高まります。その動的な性質により、AIの利用中に理解の妥当性を維持することは実務上の課題となります。このため、利用中の潜在的影響（肯定的および否定的の両方）をよりよく理解するには、AIが機能するシステム全体を考慮することが必要です。

適切な保証

当社のRPに記載された保証のアプローチは汎用的なものであり、特定の法的管轄や規制の枠組みに限定されるものではありません。ただし、RPの活用を通じて、EU AI法の要件への適合性を実証できるようにすることも目的の一つとしています。

保証とは、AIを活用したシステムの影響を受けるステークホルダーにとって信頼が構築されるような形で、要件が満たされていることについて、正当な確信を確立することを意味します。当社のRPでは、規制やその他の要件が主張を通じて定式化されるよう、主張と根拠に基づくアプローチを用いています。これらの主張は、関係するステークホルダーの利益に照らして検証されます。こうして、不当または無関係な主張を特定し、是正することができます。根拠は、主張が十分な確信をもって真であるかどうかを検証するために収集され、それが適合性評価の基礎となります。