人工知能（AI）技術が進化するなか、イノベーションと安全性のバランスを取ることが不可欠となっています。
AIコミュニティの関係者と協働する信頼と安全の専門家が、オンラインおよびAIの安全性における複雑な課題への対応の鍵を握るでしょう。
オープンな議論と強固な安全対策の実施を通じて、私たちはAI技術が全員の利益のために責任を持って活用されるよう確保することができます。
特に大規模言語モデルをはじめとする人工知能（AI）技術が急速に進化するなか、イノベーションと安全性のバランスを取ることが極めて重要になっています。
信頼と安全（T&S）の専門家は、さまざまな被害からオンラインコミュニティやプラットフォームを守ることに長年尽力してきました。そのため、T&S専門家とAIコミュニティの接点が、オンラインおよびAIの安全性における複雑な課題への対応の鍵となります。
このバランスを実現するには、特に有害コンテンツに関する信頼と安全についてのオープンな議論が不可欠です。
デジタル信頼と安全コミュニティの成長
過去10年間で、T&Sコミュニティは大きな進歩を遂げ、貴重な実践的経験と知識を蓄積してきました。
この進歩は、ソーシャルメディアの台頭と密接に結びついています。ソーシャルメディアはデジタル環境を急速に拡大させ、オンラインの安全性とユーザーデータの管理に新たな課題をもたらしました。
規制強化の例として欧州の一般データ保護規則（GDPR）などの規制強化により、企業はユーザーデータ保護へのプレッシャーを強めています。近年はさらに、次のような特定のオンライン安全規制が2021年オーストラリア・オンライン安全法、2022年シンガポール・オンライン安全法、2023年英国オンライン安全法、そして欧州連合のデジタルサービス法（DSA）は、プラットフォームに対してオンラインサービスにおける潜在的リスクの特定、評価、軽減および開示を義務付けています。
最近開催された第3回のTrustCon24カンファレンスは、この成長を明確に示すものでした。7月22日～24日にサンフランシスコで開催されたこのイベントは、Trust and Safety Professional Associationにより主催され、T&S専門家によるグローバルな実践コミュニティの形成を目指しました。
会議全体を通じて、AIシステムが有害なコンテンツを生成または増幅する可能性が広く議論されました。例えば、AI技術は現実に見えるフェイクメディアを作成するために悪用される可能性があり、それが誤情報、名誉毀損、搾取の助長につながりかねません。
さらにAIは、例えば自動化されたボットを使って大規模に暴言メッセージを送信したり、名誉毀損のためにディープフェイクや合成メディアを作成したりすることで、サイバーいじめやハラスメントを助長しかねません。
AIが生成した児童性的虐待素材（CSAM）の拡散も、もう一つの重大な課題として指摘されました。そうした素材の高度な品質と写実性により、法執行機関がリスクを効果的に評価し対処する取り組みが複雑になっています。
150億枚を超えるAI生成画像が2023年だけで流通しており、さらに増加し続けていることから、この問題の規模は深刻です。 インターネット・ウォッチ財団は、例えば、ダークウェブ上のCSAMサイトに1か月の間に投稿されたAI生成画像を20,254枚特定し、早急な対応の必要性を浮き彫りにしました。
AIの安全性とT&Sの間のギャップを埋める
人工知能の安全性という課題には強固な協力が求められる一方で、T&Sコミュニティと、AIおよび機械学習（ML）コミュニティは、ある程度独立して発展してきました。
TrustCon24のセッション「Trust & Safety x Responsible AI: Bridging the Gap」は、この分断に焦点を当てたものです。スタンフォード・サイバーポリシーセンターのフェローであるデイブ・ウィルナー氏は、過去数年・数か月の間にコミュニティ間のつながりが強まった一方で、安全性の実践には依然として大きなずれとギャップがあると指摘しました。
一方、Humane IntelligenceのCEOであるルマン・チョードリー氏は、AIおよびAIの安全性に関する研究の量だけでなく、人工知能製品が害を生むために悪用されうる点について、実践的な経験がまだ少ないことにも言及しました。
例えば、データセットに取り組むAIチームは、違法コンテンツを扱うための確立されたT&Sプロトコルに馴染みがない場合があります。同様に、MLエンジニアリングチームは政策立案や規制手続きの経験が不足していることがあります。こうした乖離が、安全対策の効果的な実施や、AI関連の課題に対処するための一貫した戦略の策定を妨げています。
TrustCon24から得られた主な教訓、および世界経済フォーラムのデジタル安全グローバル連合の会合（あらゆるステークホルダーから集まった主要な信頼と安全の専門家で構成）から得られた主な教訓には、次のようなものが含まれます：
共通言語：AIコミュニティとT&Sコミュニティの間での効果的なコミュニケーションは不可欠です。誤解を招く意思疎通の齟齬が時に誤解につながってきたためです。両コミュニティが効果的に協働できるよう、統一された用語を開発することが極めて重要です。 デジタル安全グローバル連合による「オンライン被害の類型」は、オンライン被害を巡る基礎的な用語を構築する試みです。
リスク評価：前述のEUのDSAや英国のオンライン安全法などのデジタル安全規制は、潜在的な被害を能動的に管理するためのリスク評価を求め始めています。しかし、特にAI固有のリスクについての微妙な理解には、依然としてギャップがあります。EU AI法は、人工知能システムに関する包括的な基準を定め、安全な開発と展開を確保することで、こうしたギャップを埋めることを目指しています。T&S専門家のリスク評価に関する専門知識は、AIシステムの包括的な評価フレームワークに反映させることができ、脅威の特定や人間とAIの相互作用の理解において貴重なスキルを提供し、AI開発の全段階に安全性の配慮を組み込むことに役立ちます。
セーフティ・バイ・デザイン：「セーフティ・バイ・デザイン」の概念は、製品およびサービス開発のあらゆる段階に安全対策を組み込むことを意味します。T&S専門家が用いるこの予防的アプローチは、AIシステムに適用して、リスクを早期に予測し軽減することができます。前述のパネルで議論されたように、実際には、これはAIシステムが子どもに影響を与えかねない要求の実行を拒否することを意味する場合があります。
安全性の測定：AIの安全性を正確に測定することは、依然として重大な課題です。内在する複雑さにもかかわらず、効果的な測定を追求することは不可欠です。既存の取り組みとして、米国国立標準技術研究所（NIST）のAIリスクマネジメント・フレームワークは、AIリスクの測定と管理において重要な役割を果たしています。加えて、デジタル安全グローバル連合の報告書「How to Measure Digital Safety Effectively to Reduce Risks Online」は、指標の分類を提示しています。例えば、プロセス指標のカテゴリーは、デジタル安全に関連するシステムのアプローチ、実施、成果を網羅しており、これはAIの安全性評価にも役立ち、専門家の間で共通理解を育むことができます。
双方から得られた教訓はあるものの、T&Sの実践から得られるすべての教訓がAIの安全性に直接応用できるわけではないことを認識することが重要です。AIの第一人者であるヘンリー・エイダー氏が、直近のグローバル連合会合の一つで強調したように、「実際に応用できる教訓は、主要なデジタルプラットフォーム、特にソーシャルメディアの台頭で私たちが目にしたのと同様の根本的な過ちを、AI開発において繰り返さないようにする助けになり得る」のです。
最後に、TrustCon24カンファレンスでは、AI企業、専門家、研究者を含むさまざまな分野の専門家による協働への強い意欲が見られたことに注目する価値があります。これは、より安全で信頼できるデジタル・エコシステムを構築するために、学際的な協働が必要であることを裏付けています。
世界経済フォーラムのAI安全性に関する取り組み
世界経済フォーラムのArtificial Alliance Governance Alliance（AIGA）およびデジタル安全グローバル連合は、すでにこの協働的アプローチを推進しています。
世界経済フォーラムの信頼と安全部門責任者であるダニエル・ドブリゴフスキ氏が示したように、「安全性は本質的に学際的な課題です。技術や分野を問わず、ユーザーの安全性は基盤となる技術への信頼構築に役立ちます。これは、AIのように新興で急速に加速している技術において、特に不可欠なことです。」
AIGAにおけるフォーラムの取り組みは、信頼できるAIの開発を推進し、責任ある利用を促進するとともに、イノベーションを育成しています。具体的な取り組みとしては、業界横断的にAI技術を責任を持って統合すること、強固な規制フレームワークを策定すること、安全で確実なAIシステムに関する技術的コンセンサスを前進させることに注力しています。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのでしょうか？
AIエクセレンス・センターは、各セクターのリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解することを支援しています。AI導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を支えています。
信頼できる場や協働イニシアチブを通じて、同センターはパートナーが共通理解を構築し、AIのイノベーションと活用に関する責任あるアプローチについて協力できるよう支援しています。
一方、主要な信頼と安全の専門家で構成されるデジタル安全グローバル連合は、オンライン上の有害コンテンツへの対応に向けて、官民協力を加速することを目指しています。これには、新たなオンライン安全規制に関するベストプラクティスの共有、オンラインリスクを最小化するための協調的行動の実施、偽情報と闘うためのデジタルリテラシー向上プログラムにおける協働の推進が含まれます。
両コミュニティは、共同の取り組みを強化できる貴重な知見と教訓を持っています。コミュニティ間でオープンな議論を促進し、強固な安全対策を実施することで、AI開発の複雑さを乗り越え、これらの変革的技術が全員の利益のために責任を持ち倫理的に活用されるよう確保することができます。
