生成AI（GenAI）は、業界や分野を問わず、生産性と創造性を高める可能性を秘めている。
業界リーダー、政府、学術界は、この技術がもたらす機会と新たな課題を慎重に検討し、安全で、安心でき、信頼性の高いGenAIアプリケーションを構築するためのベストプラクティスを確立しなければならない。
責任ある形で拡大していくためには、分野横断的な協力とコミュニケーションが鍵となる。
社会的便益をもたらし、不当な偏りを避け、安全性とプライバシーを considerしたうえで構築・テストされ、人々に対して説明責任を果たす先進的な人工知能（AI）アプリケーションを構築するには、業界のベストプラクティスに関する合意形成を推進することが不可欠である。生成AI（GenAI）の出現は、透明性に関する共通のアプローチを伴う原則に基づいた実践によって、前例のない技術の発展を導く機会をもたらしている。
この共通のアプローチには、学びの共有を慎重かつ実践的に進めるための、最も基本的な共通のGenAIの定義も含めることができる。例えば、世界経済フォーラムの「AIガバナンス・アライアンス」の責任ある応用と変革に関するワーキンググループは、フォーラムの他のコミュニティメンバーとともに、責任ある GenAI の開発に関する共通の用語を定義する支援を行った。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのか？
AI卓越センターは、急速に進化する人工知能の動向と、経済や社会への影響を理解するために、分野を越えてリーダーをつなぐ。AI導入に伴う機会、リスク、トレードオフに関する、十分な情報に基づいた対話を支援している。
信頼できる場と協働的な取り組みを通じて、同センターはパートナーが共通理解を築き、AIの革新と利用に対する責任ある取り組みについて協働できるよう支援している。
新たに発表された報告書「生成AIから価値を引き出す：責任ある変革のためのガイダンス」で述べられているとおり、私たちは以下を共同で定義した。
責任ある変革：GenAIの機会と便益を活用しつつ、個人、組織、社会へのリスクを軽減するための組織的な取り組みと方向性である。組織のガバナンス、業務運営、人材、コミュニケーションの各柱にまたがる戦略的な取り組みである。
責任ある導入：組織内における個別のユースケースや機会の導入である。より戦術的な性格を持ち、価値が確実に実現されるよう、徹底的な評価を必要とする。
説明責任とAIガバナンス
学びを共有することへの説明責任を果たすため、Googleは2019年以降、AI原則をどのように実践しているかについての年次報告書を公表してきた。AI原則は、安全で、安心でき、信頼性の高いAIアプリケーションを構築するための倫理憲章である。GenAIも例外ではない。この原則は、製品の研究開発の全過程において、事業面および技術面の意思決定を導くのに役立っている。今年の報告書は、AIガバナンス・アライアンスの報告書で定義された責任ある変革と責任ある導入について、具体的な事例を提示している。
例えば、当社は製品の品質を確保するため、AI原則を包括的な全社リスク管理の枠組みへ組み込みつつある。この進展は、当社の取り組みの規模をさらに拡大し、既存のガバナンスや全社的なインフラ、説明責任プロセスへの統合を進めるうえで役立っている。
Googleの全社的なリスク管理の枠組み、ツール、記録システムは、AI関連課題に対する第一線でのレビューの基盤を提供し、進化する法律、規制、基準のベンチマーク（米国ホワイトハウスの「AIに関する大統領令」、G7の「高度なAIシステムを開発する組織に対する国際指針」、および欧州連合のAI法など）への準拠に役立っている。
AIガバナンスおよび信頼・安全チームは、機械学習研究、製品政策、ユーザーエクスペリエンス研究とデザイン、公共政策、法務、人権、社会科学など、その他多くの分野の担当者や専門家と緊密に連携している。
AIの公開前評価は、技術的な安全性テストや標準的なプライバシー・セキュリティレビューを含む、より大規模なエンドツーエンドの公開前プロセスの一部である。
一般的なGenAIのリスクと対策
2023年に数百件のGenAI製品を公開して得た知見をもとに、これらのリスクを軽減するための新たなベストプラクティスを精緻化しており、以下に共有する。これらは、悪意ある行為者がGenAIツールを利用した際の誤情報・偽情報の特定に役立つSynthIDやこの画像についてなどの技術ツールから、判断の瞬間だけでなくAI製品全体を通じて説明情報を増やすといった説明可能性の技術まで多岐にわたる。
また、敵対的テストや、「倫理的ハッキング」とも呼ばれるレッドチーミングも含まれ、悪意ある、あるいは意図せず有害となる入力を与えられた際にGenAIモデルがどのように振る舞うかを、体系的に評価するものである。
GenAIのリスクに関する研究への投資
GenAIは急速に進化する技術であり、そのリスクも急速に変化している。これらのリスクについてさらに理解を深めるための基礎研究を行うことは重要である。例えば当社は最近、Gallup, Inc.と協力し、テクノロジーに対する認識や態度を調査して、人間らしさの付与（擬人化）が人々によるGenAIチャットボットやその他の技術の利用にどのように影響するかを把握した。
こうした知見は、技術を人間らしく扱うことの潜在的な利点と危険性を理解し、人々がAIを適切に利用できるよう、新たな介入策、緩和策、ガードレールを開発するうえで役立っている。
当社の研究者は、人間中心のテーマの観点からGenAIを探究している。探索的研究では、機械学習のプログラミング経験や訓練を受けていない人が、プロンプトプログラミングを用いて機能的なユーザーインターフェースのモックアップを素早く試作できるかを、5人のデザイナーとともに検証した。当社はこの手法を社内で活用したのち、Google AI Studioとして、179の国と地域のGenAI開発者向けに外部公開した。
学際的なAI研究は、飢餓の予測から疾病の予測、生産性の向上に至るまで、社会全体に関わる共通の課題の解決に役立ちうる。当社が最近行ったボストン コンサルティング グループとの共同研究では、AIが2030年までに世界の温室効果ガス排出量の5～10%を削減する可能性を秘めていることも明らかになった。
社会を中心とするAI研究において多様な視点を促進するため、当社は70名の教授が2023年インクルージョン研究プログラム賞に選ばれたことを発表した。同賞は、歴史的に疎外されてきた集団のニーズに応える学術研究を、世界規模で支援するものである。
協働による透明性が鍵である
責任あるAIの構築は、集団的な努力でなければならない。学術界や研究機関に加え、社会科学者、業界ごとの専門家、政策立案者、クリエイター、出版社、日常生活でAIを利用する人々を、積極的に関与させる必要がある。
AIガバナンス・アライアンスを補完し、その知見を反映する、特定分野に焦点を当てた協働の場が増えている。例えば、MLCommonsによる、標準的なAI安全性ベンチマークに関する多様な利害関係者による開発などである。ホワイトハウスはDEF CONにおいてレッドチーミングのイベントを主催し、Google、NVIDIA、Anthropic、Hugging Faceなどの最先端の大規模言語モデルを試験するために、2,000人以上が参加した。
Partnership on AIは、合成メディアの枠組み、データ・エンリッチメントの調達ガイドライン、および安全なモデル展開のためのガイダンスに関する協働の取り組みを促進している。さらに将来を見据え、当社は業界パートナーとともに、フロンティアモデル・フォーラムを共同設立し、フロンティアモデルにおける新たな安全性とセキュリティの課題に関する基準とベンチマークを策定している。
この協働的な取り組みを、長期にわたり安全に持続させ、拡大していくためには、ガバナンスに関する多様な利害関係者によるアプローチが必要である。業界や国家を越えて、私たちはインターネットが数十年にわたって成長してきた経験から学び、共通の基準、共有のベストプラクティス、適切なリスクベースの規制を策定することができる。この取り組みには、パートナーシップだけでなく透明性も求められる。
具体的な行動の呼びかけとして、以下のような透明性に関する文書について、業界全体の基準を策定し、合意することが必要である。すなわち、技術報告書、モデル、またはデータカードであり、安全性やその他のモデル評価の詳細に関する内部文書に基づき、不可欠な情報を適切に公開するものである。
これらの透明性に関する成果物は、単なる情報伝達の手段にとどまらない。AI研究者、導入者、下流の開発者に対して、先進的なAIの責任ある利用に関する共通の指針を提供し、責任あるGenAIアプリケーションと変革の追求を、ともに後押しすることができる。
