生成AIの利用は急速に拡大しており、その潜在能力は未だ十分に引き出されていません。
UCバークレーが主導する研究チームは、組織内で生成AIを責任を持って開発・利用するとはどのようなことかを探っています。
UCバークレーの生成AIの責任ある利用プレイブックは、生成AIを日々の業務と新製品において責任を持って利用する方法を示しています。
生成AI（GenAI）の利用は、世界中の企業で急速に拡大し続けています。実際、研究では米国の成人（18〜64歳）の3分の1以上（39.4%）が昨年生成AIを利用したと回答し、労働者の24%が少なくとも週に1回、11%が毎日利用しており、さまざまな職種や業務にわたっていることが示されています。
導入は急速に進んでいます。2024年のマッキンゼーの調査では、前年に全地域で生成AIの利用がほぼ倍増したことが明らかになり、ChatGPTは週間アクティブユーザー2億人を2024年8月時点で記録しており、これは2023年の数値の2倍に当たります。
生成AIの導入ペースはパーソナルコンピューターやインターネットの普及よりも速いものとなっています。こうした過熱ぶりは続くどころか、さらに強まっています。イノベーターや企業、投資家に加え、この技術の主導権を握り、そこから利益を得ようとする各国政府にも後押しされています。
実際、最近のトムソン・ロイターが世界中の専門家を対象に実施した調査では、回答者の95%が、今後5年以内にAIが組織のワークフローの中核になると考えていることが示されました。
生成AIの責任ある開発と利用が必要
この技術の潜在能力を引き出すため、組織は、原則に基づいて有益な生成AIアプリケーションを能動的に設計し、潜在的リスクに対処するとともに、生成AIの構築、テスト、責任ある利用のための良き慣行を確立するのに役立つ教訓を透明性をもって共有することの重要性を、ますます認識しつつあります。
研究によると、最も大きな価値を獲得している生成AIの高成果企業は、既知のリスクにより多くの注意を払い、それに対処するとともに、新たなリスクの特定と防止にも取り組んでいます。
新しい生成AI製品やサービスの責任ある開発と利用がどのようなものかを特定し定義することは、特に製品管理の段階では、これほど初期の段階においては困難な場合があります。
生成AI製品がどのように市場に投入され、利用されるかについて、ビジネスと技術の両面で意思決定を行う人々のニーズに耳を傾けることで、組織は、責任ある開発と利用を制約または支援しうる要因をより深く理解することができます。
こうしたギャップと機会を認識し、UCバークレー（バークレーAI研究所およびHaasビジネススクール）が主導する研究チームは、スタンフォード大学およびオックスフォード・インターネット研究所の研究者とともに、Googleの支援を受けて、生成AIの責任ある開発と利用がどのようなものかを探っています。
研究チームは、生成AI製品を提供し、社内でも利用しているさまざまな企業に所属する、米国在住の製品マネージャー25名へのインタビューと、世界中の製品マネージャー300名以上を対象とした調査を実施し、製品開発と製品利用の両面で責任あるAIの実践を導入する際に直面している現在の課題をより深く理解しようとしました。
不確実性から行動へ：生成AIの責任ある利用に向けて
全体として、当社の研究によると、重要な意思決定の門番である製品マネージャーの間では、先進的な生成AIモデルや製品の責任ある開発と展開を業務に組み込むための企業のアプローチを支えるため、業界全体で共通の標準的な用語集と実践的なガイドが引き続き広く求められていることが分かりました。
研究報告書「製品マネージャーによる生成AIの責任ある利用：倫理原則と実践の再結合」では、製品マネージャーが不確実性を共有していることが示されました。この不確実性は、生成AIが新しい技術であり、研究所から製品へと急速に移行したという事実に起因しています。業界全体での利用はまだ初期段階にあります。
この不確実性は、AIエコシステム内の用語や概念について標準化された定義が欠如していることに加え、責任ある利用に向けた実践的な組織ガイダンスが必要であるという明確な要望とも関連しています。特に、モデルの透明性に関する具体的な標準、例えば説明可能性、モデルの構築方法や安全性テストの報告、知的財産保護、モデルのセキュリティなどについて、早急なニーズがあります。
透明性（またはその欠如）は重要な論点です。本研究は、 透明性が欠如していると認識されることは、不確実性を高めるだけでなく、製品マネージャーによる生成AIモデルの採用や信頼も妨げていることを明らかにしています。透明性と採用の関連性は、他でも示されています。例えば、機械学習プラットフォームのHugging Faceにおけるモデル利用の分析では、研究者は、透明性に関する成果物を備えたモデルは、そうでないモデルよりも大幅に多くダウンロードされていることを明らかにしました。
最後に、インセンティブは重要です。当社の調査回答者のうち、生成AIの責任ある利用に対するインセンティブがあると回答したのはわずか19%であり、そのインセンティブは、製品を迅速に出荷し、素早く動くという従来の評価基準と結びついていることが多くなっています。
前向きな面としては、 AIの原則と経営陣の支援を備えた組織では、製品マネージャーが責任あるAIやトラスト＆セーフティのチームと連携する可能性がほぼ3倍高く、バイアスの評価などの安全対策や標準を導入する可能性が2.4倍高いことが分かりました。
さらに、不確実な環境においても、PMは 責任に関する小さな取り組み（マイクロモーメント）を実践していると回答しています。これには、個人またはチーム全体によるレビューや顧客データを保護するための標準の遵守などの行動が含まれ、また、行動を企業の価値観に沿わせる方法を見つけることも含まれます。
生成AIの責任ある開発と利用を支える実践的なガイドの必要性を認識し、また分野全体を広く支援するため、当社の研究チームは、この研究を基にしたプレイブックを作成しました。このプレイブックは、Googleおよび業界全体の製品マネージャーとともにテストされました。
生成AIを責任を持って活用するための主な方法
生成AIの責任ある利用プレイブック は、ビジネスリーダー向けに5つ、製品マネージャー向けに5つの計10のプレイを示しており、生成AIを日々の業務や新製品においてどのように責任を持って利用するかを、付随するリソースやツールとともに示しています。
ビジネスリーダー向けの5つのプレイ：
リーダーシップが責任ある生成AI利用の価値を認識し、責任あるAIの原則を策定し、組織の責任に対するコミットメントをすべての従業員に伝えるようにします。
生成AIの責任ある利用を確保するため、ポリシーと付随する標準を実施します。
主要な役割を定義し、組織構造を確立し、共有された説明責任の文化を育む、包括的な責任あるAIガバナンスの枠組みを構築します。
業績、製品開発、指標を責任と整合させるため、インセンティブを更新します。
ギャップに対応し、生成AIの責任ある利用を支援するため、個別化された研修を実施します。
製品マネージャー向けの5つのプレイ：
業務上の利用事例および製品開発における責任に関するリスクを評価するため、「ガットチェック（直感的な確認）」を実施します。
ニーズと潜在的リスクを評価して、生成AI製品のモデルを選択します。モデル、ファインチューニング用データを文書化し、主要な検討事項を明示することで透明性を確保します。
組織の原則と主要なリスクに沿った、部門横断チーム、専門家による監督、ツールを伴う、生成AI製品のリスクアセスメントと監査を実施します。
脆弱性を発見するため、レッドチーミングと敵対的テストを実施するとともに、時間をかけてユーザーからのフィードバックを収集し、それに対応します。
責任に関する小さな取り組み（マイクロモーメント）、すなわち責任ある意思決定を示す、単純で影響力のある行動を追跡し、業績評価でそれらを示します。
生成AI時代の変革を支えるプレイブック
生成AIの責任ある利用 AIプレイブックは、世界経済フォーラムの「第四次産業革命センター」が、「AIガバナンス・アライアンス」の下で進める分野横断的な取り組みや、最近の「知能時代の産業」ホワイトペーパーシリーズを含む継続的な活動を、実践的な形で補完するものです。第四次産業革命センターが「AIガバナンス・アライアンス」の下で進める分野横断的な取り組みAIガバナンス・アライアンスの継続的な取り組み（最近の「知能時代の産業」ホワイトペーパーシリーズ）
世界経済フォーラムは、人工知能のためにどのようなガードレールを構築しているのでしょうか？
AI卓越センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、経済や社会への影響を理解することを支援しています。AI導入に関連する機会、リスク、トレードオフについて、十分な情報に基づく対話を支援しています。
信頼できる場と協働的な取り組みを通じて、センターはパートナーが共通の理解を築き、AIの革新と利用に対する責任あるアプローチに向けて協働できるよう支援しています。
本イニシアチブの問いは次のとおりです：AIおよび生成AIの時代において、産業リーダーはどのように責任を持って成長と変革を推進し、ビジネスと社会の双方に利益をもたらすことができるのか？
このプレイブックは、ビジネスリーダーと製品マネージャーが、新たな責任ある生成AIの実践を日々の業務フローや製品開発に体系的に組み込むための構造化されたガイダンスを提供し、戦略的優先事項に沿った実行可能なステップを示しています。
この詳細解説では、組織が、孤立したAI活用事例から、生成AIを通じた、先見性がありながらも実践的な全社的変革へと移行する必要性を強調しています。
