AIは製造業とサプライチェーンを変革すると見込まれており、企業が競争力を維持するうえで極めて重要になっています。
セキュリティ、データ保護、規制の不確実性への懸念が、AI導入に対する深刻な課題となっています。
AIシステムの品質管理は、ライフサイクル全体を通じてリスクを評価し、AIシステムが主要な要件を満たしているかを判断するための体系的なアプローチを提供します。
人工知能（AI）は、再構築された製造業の基盤として台頭しています。各業界の経営幹部の89%が、AIを成長目標の達成に不可欠なものと捉え、自社の業務への導入を目指しています。しかしながら、セキュリティ、データ保護、規制遵守、性能上の問題への懸念が、製造業およびサプライチェーンにおけるAI導入に対する深刻な課題となっています。AIには、慎重に検討されなければ深刻化しかねない本質的なリスクも伴います。AI製品を認定し、AIソリューションの統合と運用時にリスクを評価するための標準化された프로세스が欠如しているため、道筋は複雑で、しばしば不明確なものとなっています。
AIシステムの品質を効果的に管理することで、産業界の組織はこれらの課題を克服し、リスクを軽減しながら、生産性、柔軟性、持続可能性、労働力の関与を高めるためにAIの潜在能力を最大限に引き出すことができます。
AI品質とは何か、またそれが重要な理由は何か？
品質は、常に産業活動の重要な側面でした。製造製品のライフサイクルのあらゆる段階で不可欠な品質保証は、AI品質と並行するものであり、AI品質とは、AIシステムがライフサイクル全体を通じて特定の要件をどの程度満たしているかを評価するための体系的なアプローチです。
AIシステムの品質を評価するにあたり、次の6つの重要な柱が考慮されます。
安全性：人や財産への潜在的な危害に焦点を当てます。
セキュリティ：サイバーセキュリティのリスクおよびAI特有の脅威を評価します。
法務：規制および契約上の義務への遵守を確保します。
倫理：システムを、企業の価値観および利害関係者に影響を与える倫理原則と整合させます。
性能：システムの有効性と正確性を確認します。
持続可能性：その開発および運用が環境への配慮のもとで行われてきたかを検証します。
これらの要素は総合的に、AIシステムの全体的な適合性と影響を決定します。
製造業におけるAI品質：現状はどうなっているのか？
製造業でAIを導入する際によく見られる品質上のギャップを把握し、長期的に成功し、責任ある持続可能な成果を実現するための解決策を共同で特定するため、世界経済フォーラムはTÜV SÜDと連携し、「AI搭載産業運用イニシアチブ」の一環として、AI品質に関する詳細な分析を実施しました。AI搭載産業運用イニシアチブ。TÜV SÜDのAI品質フレームワークを活用し、5つの製造ユースケースについて、リスク分析と成熟度プロファイリングからなる「AI品質対応分析」を実施しました。関連する品質の柱を特定した後、60のリスク特性を分析し、そのうち発生頻度と観測された最大リスクレベルに基づいて21が抽出されました。
評価の結果、リスクの割合が最も高かったのは性能およびセキュリティの柱であることが明らかになりました。機能適合性、保守性、機密性などのリスク基準が注目されました。各リスク特性は、満たされない場合にAIシステムの適用においてリスクをもたらす品質上の考慮事項を表します。例えば、機能適合性を確保することは、AIシステムが意図された目的を達成し、指定された状況の中で効果的に機能することを保証するうえで最も重要です。これは、信頼性が高く正確な結果を得るためだけでなく、意図しない結果を回避し、ユーザーの信頼を維持するためにも欠かせません。
セキュリティの柱では、評価対象ユースケースの一部が扱うデータの機微性により、比較的高いリスクレベルが報告されました。しかしながら、すべての柱にわたる残存リスクは概ね適切に管理されていることが確認されました。堅牢なセキュリティ対策、積極的な監視、セキュリティ意識の文化といった効果的なリスク軽減策により、最大リスクは許容可能なレベルまで引き下げられています。
成熟度プロファイリングの集計結果は、評価対象ユースケース全体において、組織の成熟度が適切に管理されていることを示しています。コンプライアンスや戦略、そしてサイバーセキュリティなどの次元で高い成熟度が報告され、各組織はAI関連のサイバーセキュリティの脅威を管理するための堅牢な方針とプロセスを導入していました。
監督およびプロセス管理の次元では、いくつかの成熟度ギャップが確認されました。組織はAIライフサイクルの特定の側面を見落とす傾向があり、特に堅牢な廃止計画の策定においてその傾向が見られました。テストのアプローチでは、敵対的攻撃などのAI特有のリスクが常に考慮されているわけではありませんでした。評価対象ユースケース全体で複数のテストツールが採用されていましたが、それらのツールが体系的に利用されていないこともありました。テストと管理策に対する構造化されたアプローチを採用することは、AIアプリケーションの全体的な信頼性と堅牢性を確保し、AIの障害による影響を最小限に抑えるために不可欠です。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのか？
AI卓越性センターは、セクターを超えたリーダーを結び付け、人工知能の急速な進化とそれが経済や社会に与える影響を理解することを支援しています。AI導入に関連する機会、リスク、およびトレードオフについて、十分な情報に基づいた対話を支援しています。
信頼できる場と共同イニシアチブを通じて、センターはパートナーが共通の理解を構築し、AIのイノベーションと利用に関する責任あるアプローチに向けて協働することを可能にしています。
業界および技術の専門家からなる、より広範なコミュニティとの協議により、特定された成熟度ギャップに対処するためのベストプラクティスの解決策が導き出されました。主要な検討事項には、研修および能力開発プログラムを通じた人材のスキルアップ、事業戦略と技術製品との整合、そして堅牢な障害管理システムの導入が含まれます。
このコミュニティはまた、AI品質を一度限りの評価ではなく、継続的なプロセスとして捉えることの重要性を強調しました。AIシステム、それに関連するリスク、リスク軽減策の定期的な評価、および継続的な文書化と更新は、AIシステムの品質を確保するために不可欠であり、堅牢な品質管理システムの一環として運用されるべきものです。
今後の方向性
製造業においてAIの潜在能力を十分に引き出し、生産性、機動性、持続可能性、労働力の強化を推進して長期的な成果を実現するためには、組織がAIソリューションは従来の自動化システムとは異なり、体系的な管理を必要とする固有のリスクを伴うことを認識することが不可欠です。
AIシステムの開発および展開におけるこれらのリスクを特定し評価するための堅牢なアプローチにより、製造業者はAIを産業プロセスに効果的に統合し、円滑かつ効率的な導入と運用を実現できます。これはAIの導入と規制遵守を促進するだけでなく、AI技術に対する信頼も醸成します。さらに、継続的な評価と適応により、組織は急速に進化するこの分野における新たな機会や課題に対して、機敏かつ柔軟に対応し続けることができます。
包括的なAI品質戦略により、AIの変革の可能性を責任を持って効果的に活用し、企業、労働者、社会、そして環境にとって次の価値の波を解き放つことができます。
