人工知能は仕事の世界に革命をもたらしましたが、製造業などの現場におけるAIの導入は進んでいません。
説明可能なAI（XAI）は、下された判断に関する洞察を提供することで、「アルゴリズム嫌悪」への対応に役立ち、信頼の構築につながります。
XAIのアプローチを採ることで、製造業などの分野において、人間と機械の双方が最高の成果を発揮できるようになります。
仕事は人間の基本的な活動であり、人工知能（AI）の画期的な進歩により、現在大きな変革を遂げつつあります。しかし、製造業など多様な職場環境におけるAIの導入は進んでいません。
その主な理由の一つは、人間が不透明なアルゴリズムを信頼することに抵抗を感じがちな点にあります。AIの技術的進歩は十分に記録され、多くの誇大宣伝の対象にもなっていますが、行動面の要因が製造業におけるAIの大規模な導入を実質的に妨げています。
本稿では、こうした障壁を取り除くために特別な種類のAI、すなわち説明可能なAI（XAI）がどのように必要であるかを論じます。
人間の仕事の終わり？
AIが大規模に人間の仕事を置き換えるようとしているという見方が広く語られています。しかし、多様な製造現場での当社の調査と、世界経済フォーラムによる最近の報告書「製造業におけるAI」は、こうした見方を否定しています。
代わりにAIは、人間の知能を拡張して業務をより効果的に遂行するとともに、仕事の経験をより豊かにする可能性を秘めています。この可能性を引き出す鍵は説明可能なアルゴリズムにあり、従来のAIシステムにおける、しばしば不透明な意思決定プロセスとは対照的です。
その可能性にもかかわらず、職場におけるAIの導入は予想以上に遅れており、この消極姿勢は主に二つの重要な要因によって部分的に生じています。一つ目は「アルゴリズム嫌悪」です。これは、明確な根拠を示さずに判断のみを提供する「ブラックボックス」として機能するAIシステムを、人間が信頼することに抵抗を感じる傾向を指します。
二つ目の課題は、多くの最先端アルゴリズムの不透明な性質により、専門家がAIの生成した推奨事項を専門知識と照合して評価することが難しく、誤りの特定と是正が困難になっている点です。これらの問題は、AIに対する信頼を損なうだけでなく、効果的な人間とAIの協働の余地も制限しています。
ここで説明可能なAI（XAI）が大きな突破口をもたらします。製造業分野における複数年にわたる当社の研究から得た結論は次のとおりです。すなわち、説明可能性こそが、製造業におけるAI導入を促進する欠けていた要素であるということです。
なぜでしょうか。説明可能なAIは、複雑なアルゴリズムの処理過程と人間の理解との間を橋渡しする通訳のような役割を果たします。通訳が複雑な情報を素人にも理解できる形で伝えるように、XAIは複雑なアルゴリズムの難解な論理を分かりやすくします。
AIの「ブラックボックス」を、明確な説明を伴う推奨事項へと変えることで、XAIはより大きな信頼を育み、より効果的な人間とAIの協働を可能にします。XAIはAIをより倫理的かつ説明責任を果たせるものにするだけでなく、当社の研究によれば、仕事の経験や業務のパフォーマンスも向上させることが示されています。
AIは膨大なデータセットを精査し、人間の能力をはるかに超えるパターンを見出す能力を持っていますが、真に生産性の向上をもたらすのは、人間の専門知識とAIの推奨事項の共生関係です。
説明可能なAI（XAI）を活用した専門家はAIを上回る成果を上げる
XAIの重要性を明らかにする説得力のある事例研究として、シーメンスで実施した現場実験があります。この研究では、電子製品の外観品質検査作業において、工場作業員の二つのグループの成果を比較しました。
第一のグループは従来の「ブラックボックス」型AIの支援を受け、第二のグループは、潜在的な品質上の問題についての予測を説明するために視覚的なヒートマップを提供するAIの恩恵を受けました。
結果は際立っていました。説明のないAIの下で作業した熟練作業員は、AIが示した正確な推奨を誤って覆す可能性が3倍以上高くなりました。対照的に、XAIの支援を受けた作業員は、AIを信頼すべき時と自らの専門知識に頼るべき時をより適切に判断でき、AIシステム単独の性能を上回りました。
これは、XAIが単により賢い機械の判断を提供するだけのものではなく、人間と機械の双方が最高の成果を発揮できるようにする変革的なアプローチであることを示しています。
XAIは、現場のオペレーターに判断支援を提供するうえで有益であるだけでなく、複雑な生産システムの理解を助け、製造業の専門家に重要な洞察をもたらすこともできます。
当社が半導体工場で実施した別の研究プロジェクトでは、プロセス専門家にXAIツールを組み込み、品質問題の根本原因を説明できるようにしました。AIが生産変数と品質結果の間の複雑な関連性を説明した一方で、こうした洞察を効果的な改善策へと結びつけるには人間の専門知識が必要でした。
専門家はAIの説明を自らの専門知識と照合することで、品質損失の根本原因を確認するための的を絞った実験を設計することができました。その結果、品質損失は50%以上激減しました。これは、AIに基づく説明を伴う人間と機械の協働の有効性を裏付けるものです。
拡張知能の説得力ある事例
当社の研究は、製造業の未来が人間対機械の争いではなく、両者それぞれの独自の強みを活かす協働的な取り組みであることを強く示唆しています。
多くの業務は、AIに置き換えられたり委任されたりすることはなく、また、そうすることもできません。しかし、AIは人間の仕事を拡張し、より効果的かつ効率的な業務を生み出すことができます。特に、AIの判断が説明される場合にはその効果が高まります。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのか？
AI卓越センターは、業界横断的にリーダーたちをつなぎ、急速に進化する人工知能と、その経済および社会への影響を理解する取り組みを支援しています。AI導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を後押しします。
信頼できる場と協働イニシアチブを通じて、同センターはパートナーが相互理解を深め、責任あるAIのイノベーションと利用のアプローチに向けて共に取り組めるよう支援しています。
XAIは、アルゴリズムによる各推奨の「どのように」と「なぜ」を分かりやすく示すことで、AIが生み出す洞察に支えられた人間の問題解決能力を最大限に引き出すことに役立ちます。
一般的な議論は「人間対AI」という枠組みにとらわれるべきではなく、むしろ両者の相乗効果がもたらす豊富な機会を探るべきです。当社の研究では、AIと人間の協働が、どちらか一方だけでは取り組めない問題を解決する際に特に有効であることが強調されています。
したがって、私たちはパラダイムシフトを呼びかけます。人間を AIで「置き換える」のではなく、人間を「拡張する」ことが必要になります。そのためには全く異なる一連のツールが求められ、中でも特に重要だと考えるのがXAIです。
