規制からイノベーションへ:認証は持続可能な未来に向けた信頼できるAIをどう構築できるか

A copy of the European Union Artificial Intelligence (AI) Act on display during the AI & Big Data Expo 2025 at the Olympia, in London, Britain, February 5, 2025: Frameworks around AI are driving the need for certification, which can prove user trust in AI systems
Frameworks around AI are driving the need for certification, which can prove user trust in AI systems.Image: REUTERS/Isabel Infantes
このページは、生成AIにより自動翻訳されています。
  • 欧州連合(EU)のAI法のような枠組みは、コンプライアンスを競争上の優位性へと転換させつつあります。

  • 認証は実践において信頼を証明します。信頼性と説明可能性の基準を満たすAIシステムは、ユーザーの信頼を獲得します。

  • 投資家、政府、調達チームは現在、ガバナンスと認証を示せる企業を評価しています。

10年以上にわたり、人工知能(AI)をめぐる言説はスピードの競争でした。すなわち、迅速に導入し、急速に規模を拡大し、先行者の優位を獲得することです。今や2025年はAIにとって転換点です。欧州連合(EU)のAI法は施行されました。一方、米国やアジアも独自の枠組みを推進しています。

多くの指導者にとって、規制は本能的にコストやイノベーションの妨げと見なされがちです。実際は、その逆です。規制は信頼に基づく導入を促進する触媒になりつつあり、コンプライアンスに早期に取り組む企業には、罰金からの保護にとどまらず、信頼性、アクセス、市場シェアにおける競争優位をもたらします。

EUの一般データ保護規則(GDPR)が世界的なクラウド導入の形を変えたように、AI法とその国際的な同等の枠組みは、誰が信頼を獲得し、誰が取り残されるかを決定づけるでしょう。

AIにおける信頼の課題

複数の調査によると、コンプライアンスとリスクへの懸念がAIの進展を妨げています:経営幹部の77%は、規制の不確実性が意思決定に影響を与えていると回答しており、一方、74%は、過去1年間にリスクを理由として少なくとも1件のAIプロジェクトを中断しました。

EUのAI法は、システムを許容不可能(禁止)、高リスク(評価の対象)、限定リスク(透明性の義務)、最小リスク(義務なし)に分類しています。

医療、交通、エネルギー、教育分野の高リスクシステムは、市場に投入される前に適合性評価を受けなければなりません。この保証がなければ、導入は停滞します。この保証があれば、病院から政府に至るまでの購入者は、自信を持ってAIソリューションを導入できます。

コンプライアンス:障壁からループへ

コンプライアンスは、イノベーションの後に後付けされる、終盤の障壁として扱われることが多すぎます。しかし、このモデルを転換させる指導者は、コンプライアンスを設計の推進力にできます。私たちはこれを、コンプライアンス主導のイノベーションループと呼んでいます:

  • 検知: AIプロジェクトを、新たな法的枠組み(EUのAI法、NIST AI RMF、ISO/IEC 42001)と照合します。

  • 設計: 規制の原則を機能や実践へと落とし込みます。モデルカード、データシート、影響評価を、形式的な書類ではなく、継続的に更新される文書として活用します。

  • 展開: 早期に独立した検証者を関与させます。トレーサビリティと監査可能性を備えた機械学習運用パイプラインを構築し、各リリースが「信頼準備完了」であることを確保します。

  • 差別化: 市場における信頼。医療、インフラ、政府分野の調達チームは、契約の条件として認証の証拠をますます求めています。

このアプローチは、物事を遅らせるのではなく、不確実性による摩擦を取り除くことで、導入を加速させるはずです。

実践における認証

AIアプリケーションを検証する、さまざまな産業にまたがるユースケースがいくつかあります:

デジタル医療:信頼できる皮膚がンAI

最近の研究は、説明可能性ツールが、医師によるAIモデルの皮膚病変の悪性・良性の分類理由の理解をどのように可能にするかを示しています。一方、信頼性監査は、ブライヤースコアなどの指標を用いて、実際の条件下でこれらのシステムがどれほど一貫して機能するかを評価します。

こうした手法は全体として、認証の枠組みによって医療AIを、医師が信頼し、規制当局が承認し、患者が頼れるソリューションへと転換できることを示しています。

モビリティ:自動運転

メルセデス・ベンツは、Drive Pilotシステムの開発において「設計段階からのコンプライアンス」を適用しました。当初から説明可能性と人間が介在する安全策を組み込み、ドイツの規制当局と早期に協働することで、同社は 時速95キロメートルでのレベル3自動運転の承認を獲得しました。

これにより同社は競合他社の先を行き、認証への準備を重視する車両フリート購入者との調達機会が開かれます。

ダイムラーの従業員が、ドイツ・インメンディンゲン近郊の同社テストセンターにて、新型メルセデス・ベンツSクラス・リムジンでDrive Pilotレベル3自動運転システムによる操舵を実演しています(2020年10月14日)Image: REUTERS/Arnd Wiegmann

デジタルインフラ:より安全な建設

ZeroDefectWeldのような産業プロジェクトは、ZeroDefectWeldAIが放射線透過画像上の溶接欠陥を検出・分類でき、産業環境における手作業による検査の誤りを減らせることを示しています。

これらのシステムをEUのAI法に基づかせること(第15条の正確性、堅牢性、サイバーセキュリティに関する要件を満たし、AIが安全部品として機能する場合に高リスク管理を適用すること)は、インフラプロジェクト全体で、コンプライアンスに準拠したAI対応の非破壊検査へと至る、明確で監査可能な道筋を生み出します。

その結果は、より安全な建設、より迅速な納入、より信頼性の高い資産であり、インフラに関する持続可能な開発目標(SDG)9への直接的な前進となります。

生成AI:信頼されるクラウド導入

マイクロソフトは、EUのAI法に準拠するよう製品と契約を調整しており、ソーシャルスコアリングなどの禁止された用途を禁止するためにポリシーを更新し、EU AI協定に署名しています。

同社は、Trust Centreの文書、透明性に関する注記、Purview Compliance ManagerやAzure AI Content Safetyなどのガバナンスツールを通じて顧客を支援しています。社内基準と欧州における規制当局との連携を組み合わせることで、マイクロソフトは企業がコンプライアンスを維持しつつAIで革新できるよう支援することを目指しています。

これらの事例を通じて、認証は規制を制約から、規模拡大を可能にするものへと転換させています。

なぜ今これが重要なのか

経済的には、投資家は強固なガバナンスを備えた企業に対して「信頼プレミアム」を適用しています。政府や重要インフラにおける調達チームは現在、適合性評価を事前に求めています。

社会的には、認証は基本的権利を保護し、AIがSDGsと整合するよう支援します:

  • SDG 3(保健): より安全な医療診断。

  • SDG 9(インフラ): より強靭な産業と建設。

  • SDG 11(持続可能な都市): 信頼できるモビリティとスマートシティのアプリケーション。

政治的には、認証は高次の規制と技術的手法とをつなぎ、政府が国境を越えて基準を調和させることを可能にし、それによって断片化を減らし、世界的なAI貿易を促進します。

指導者が取るべき行動

経営幹部、政策立案者、イノベーターにとって、課題は明確です:

  • AIへの信頼に関する明確なリーダーシップを確立する: 例えば、最高信頼責任者を任命する、あるいはコンプライアンス、法務、製品、技術の専門知識を結集する部門横断的なAI信頼運営委員会を設置するなどです。

  • AIプロジェクト監査を実施する:これらは、EUのAI法、NIST AIリスク管理フレームワーク、そして国際標準化機構による新たな標準に照らして評価されるべきであり、早期のコンプライアンスと市場への準備を確保します。

  • 認証機関と早期に関わる:関与は開発の終盤だけに行われるべきではありません。

  • コンプライアンス関連の成果物を市場の資産として扱う:モデルカード、データガバナンスの枠組み、監査証跡は、世界の購入者に対するあなたのパスポートになりつつあります。

信頼はイノベーションの新たなフロンティア

規制はゲームのルールを明確にし、認証はそれらのルールを実践へと変換します。両者が相まって、AIは強力であるだけでなく、信頼できるものになります。

明日の指導者は、単に先進的なAIを導入するだけではありません。設計段階から信頼されたAIを導入し、市場へのアクセスと社会からの操業許可の双方を獲得するのです。

ライセンスと再掲載について
世界経済フォーラムの寄稿文は、クリエイティブ・コモンズ表示-非営利-改変禁止 4.0 国際ライセンスおよび同フォーラムの利用規約に従い、再掲載が可能です。