人工知能（AI）、とりわけ生成AI（GenAI）の導入を成功させるうえで、信頼は不可欠です。
責任あるAIの導入には、官民両セクターの連携と、企業内での新たな慣行の採用が必要です。
企業が責任あるAIを導入するために取れる6つの行動を紹介します。
スイスのダボスで開催された世界経済フォーラムの2024年年次総会で、私はCognizantの同僚役員たちとともに、責任ある人工知能（AI）について世界各地の数百人のリーダーと掘り下げた議論を交わしました。
私たちは、AIガバナンス・アライアンスの、安全なシステム、責任あるアプリケーション、強靱なガバナンスに関するブリーフィングペーパーに喜んで協力しました。重点分野や必要な行動について見解はさまざまでしたが、AIリスクのより適切な管理が緊急の優先課題であることに全員が同意しました。
AI導入の成功の中核に信頼があることは明らかです。信頼があれば、世代を代表する革新的な新技術であるGenAIを拡大し、その可能性を実現できます。魔法のように感じられる革新的な新ソリューションを消費者が体験すると、本能的に懐疑的になります。信頼は最初から獲得しなければなりません。
信頼されるAIをつくる
信頼は重要な要素です。信頼とは何か、どうすれば得られるのかを整理しましょう。1995年、ノートルダム大学とパデュー大学の教授たちが、信頼のモデルを発表しました。このモデルは広く採用されており、AIを活用したサービスにもよく当てはまります。信頼は、能力、善意、誠実さに対する認識から生まれると提唱しています。ダボスで聞かれた意見はこのモデルと合致しており、私たちが直面する課題を理解する助けとなります。
第一に、AIシステムへの信頼は、現実世界の問題を解決する能力にかかっています。現実の場面で役立つかどうかは、当然視できるものではありません。GenAIの素晴らしいデモを見たあと、実際に現場でツールを試すと少し期待外れだったこともあります。
過剰な約束をして期待に応えられないAIソリューションは、長期的に大きな信頼問題を招きます。会話の利便性をうたいながら、理解力が限られ、固定的な判断ツリーしか提供しないチャットボットや音声アシスタントで、私たちはこの問題を目にしてきました。利用者は失望し、技術が掲げた約束は果たされませんでした。
AIシステムを有用にするには、適切な課題に焦点を当て、関連性の高い良質なデータで支え、ユーザー体験や業務フローにシームレスに組み込む必要があります。何より重要なのは、AIシステムが関連性と品質の高い結果を継続的に提供できるよう、継続的な監視とテストを行うことです。
信頼を左右する第二の領域は、善意という考え方です。AIモデルは社会、企業、個人に良い影響をもたらさなければ、受け入れられません。中核となる課題は2つあります。
良い影響をもたらす導入。企業がAIを責任を持って導入し、悪影響に全面的に対処するよう徹底しなければなりません。許容できないユースケースを阻止し、知的財産権を尊重し、公平な処遇を確保し、環境への害を避け、職を失った労働者が代替の雇用機会を得られるようにする必要があります。
悪意ある利用の防止。責任ある企業が善意に基づくAIを導入するだけでは不十分です。悪意ある利用からも守らなければなりません。政府機関や規制当局は、正当なプロバイダーを認定し、悪質な行為者を排除する措置を講じる必要があります。中核的な課題には、プロバイダーの検証、本物のコンテンツの検証、新たなAI活用型攻撃の防止、デジタル配信チャネルのモデレーションが含まれます。
最後に、利用者がサービスを安全で、プライバシーが守られ、強靱で、適切に統治されていると認識すると、誠実さが信頼を生みます。
技術者や企業は数十年にわたり、ミッションクリティカルなデジタルサービスを支えるウェブ規模のインフラやクラウドネイティブのアーキテクチャを構築してきました。世界がこうしたサービスを信頼できるようにしてきた慣行を、透明性をもってAIの能力に拡張・適応し、ユーザーコミュニティに納得してもらう必要があります。
この必要な誠実さを実現する唯一の方法は、透明性、性能、セキュリティ、プライバシー、品質を備えたプラットフォームを採用することです。地域ごとの目標やサイロ化したデータに基づいて個別のユースケースを並行して構築するのは危険な道です。コストとリスクの増大、成果の悪化を招き、最終的にはシステムの整合性が崩壊します。
責任あるAI導入の課題
目標を明確にすることは重要ですが、私たちが困難な課題に直面していることは否定できません。責任あるAIへの取り組みには、さまざまな課題をめぐる官民両セクターの連携が必要です。また、AIを活用したシステムを責任を持って設計、開発、保証、運用するために、企業内で新たな慣行を採用することも求められます。
誰かがこうした課題を解決するのを待つ余裕はありません。役割や業界を問わず、競合他社はAI導入を進め、従業員は信頼できないソリューションをひそかに利用し、悪質な行為者は弱点を攻撃し悪用する新たな方法を考案していると考えてよいでしょう。
数百の組織で責任あるエンタープライズ規模のAI構築を支援してきた経験と、私たち自身の事業の中核に基づき、企業は次の6つの領域で行動すべきだと考えます。
1. 一貫したビジョンと説明責任のもとでリーダーシップを整える
AIはCEOレベルの課題であり、組織のあらゆる機能部門の連携が必要です。経営陣は責任あるAIをめぐる課題を議論し、機会のある領域、ガバナンスのアプローチ、脅威への対応、行動に対する説明責任について合意すべきです。
2. 人的要因に最初から対処する
Cognizantの調査によると、従業員や消費者の不信感などがGenAIの成長を妨げる可能性があります。GenAIによってテクノロジーとのやり取りが簡素化され、企業利益が増えると人々は考える一方、労働者や社会に恩恵が及ばず、雇用不安を招くのではないかと懸念しています。
企業は透明性と率直なコミュニケーションを通じて、こうした懸念に対処する必要があります。調査が示すように、理解が深まるほどGenAIへの期待も高まるため、このアプローチは効果を発揮します。
3. 基準とリスクを管理する
優れた慣行を標準化し、AI関連の活動を体系的に監視するため、ガバナンス、リスク、コンプライアンスの枠組みを確立します。この枠組みでは、学習データ、AIモデル、アプリケーションのユースケース、人々への影響、セキュリティを含む、AI活用型システムの全範囲を考慮することが極めて重要です。
4. 専門知識の中核拠点を設ける
活動の透明性を一元化し、監督しなければ、責任あるAIを管理できません。AIセンター・オブ・エクセレンスを設置すれば、企業は限られた専門知識を最大限に活用し、経営陣、規制当局、パートナー、開発チーム、従業員に一貫した見解を示せます。
5. 能力と認識を高める
責任あるAIの慣行を維持するには、企業内の全員がテクノロジーの能力、限界、リスクを理解する必要があります。全従業員に、責任あるAI、組織のビジョン、ガバナンスのプロセスについて教育すべきです。そのうえで、選ばれたグループには、AIソリューションの開発や活用により実践的に携わるための研修やコーチングなど、さらなる支援が必要になります。
6. 優れた慣行をプラットフォームに組み込む
AIは広範に浸透する横断的なテクノロジーであり、ほぼすべての職務に影響を及ぼします。チームが信頼できるソリューションを迅速に構築するには、業務に必要なデータとツールが欠かせません。AIプラットフォームは、共有可能な資産を再利用できるようにし、効果的なリスク管理を確実に導入し、すべてのステークホルダーに透明性を提供できます。
フォーラムがリーダーのAI理解と責任あるイノベーションに向けた協働をどう支援するか
AIエクセレンス・センターは、分野を超えてリーダーをつなぎ、人工知能の急速な進化と、経済や社会への影響を理解できるよう支援します。また、AI導入に伴う機会、リスク、トレードオフについて、十分な情報に基づく対話を促します。
信頼できる場や協働イニシアチブを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと活用に向けた責任あるアプローチに協力して取り組めるようにします。
この6つの行動項目に取り組めば、組織は責任あるAIに関する方針を実践に移し、AI関連の活動を効果的に実行・統治できるようになります。AIを導入する、またはAIを活用した脅威にさらされるすべての組織が、責任あるAIを導入すべきであり、今すぐ実行しなければならないと私たちは考えます。
