人工知能は人類と持続可能な開発に貢献し得る一方で、堅牢な安全対策を構築するため、地域のAIエコシステムの強化を優先する必要があります。
特定の地域やユーザーのプロファイルを「リスク」と分類する信頼と安全に関するルールは、デジタル経済への参加を制限し得ます。
AIの信頼と安全に関する新たなモデルを実現し拡大するには、公共部門と民間部門のパートナーが協働し、特定の地政学的、環境的、文化的なニュアンスに適応させる必要があります。
AIの公平性格差を埋めるには、途上国においてAIモデルとソリューションが地域の状況に対応していることを確保する必要があります。信頼と安全へのアプローチは、事後対応的で危機対応型のものから、人々の安全と包摂に焦点を当てた、先を見越し適応的な施策へと再考する緊急の必要があります。
AIは人類と持続可能な開発に貢献し得る、ますます強力な技術になりつつあります。しかし、堅牢な安全対策を確保するために必要なツールや連携を構築するには、すべての国における地域のAIエコシステムの強化を優先する必要があります。本稿では、AIの公平性格差を埋めるための重要な基盤である、信頼と安全の再考の必要性を論じます。
現在、信頼と安全はどのように説明されているのでしょうか。
「信頼と安全」は、途上国の人々が必ずしも馴染みのある用語ではありませんが、日常的なやり取りにおいて人々はしばしばその影響を受けています。従来、信頼と安全とは、民間企業がデジタル製品・サービスの利用に影響するリスクを管理・軽減するために設ける規則や方針、および事後的または事前的な制限を決定する運用上の執行システムを指します。こうした信頼と安全の実務を左右する判断は、ユーザーがオンラインで何にアクセスでき、何を発言または行動できるかに影響を及ぼします。
こうした判断の一部は法令遵守や安全に関わるものですが、それ以外の場合は、ユーザー体験や事業上の利益に合わせて企業が策定する独自の方針として存在しています。企業は、途上国における報告、透明性、地域との連携が限定的な状態で、信頼と安全に関する規則を独自に定める傾向があります。
意図しない排除のリスク
信頼と安全に関する判断は、ユーザーの集合的なデジタル体験の基盤に組み込まれています。こうしたフィルターは、多くの場合、肯定的で保護的な施策を意図したものですが、包括的で権利に基づく配慮がなければ、人々がデジタルツールやサービスの恩恵を十分に受ける能力を制限する阻害要因となり得ます。
例えば、特定の地域やユーザーのプロファイルを「リスク」と分類する信頼と安全に関するルールは、デジタル経済への参加を制限し、意図しない排除という結果をもたらし得ます。ユーザーが遭遇しうるシナリオの例を以下に示します。
資金に課される「保留」
オンラインで決済を行う、または受け取る際、特定の地域や取引の種類が「高リスク」と分類されることがあります。資金を保護するため、口座に保留措置が講じられ、一時的にその資金へのアクセスが制限される場合があります。ただし、長期にわたる待機期間は日常生活に大きな支障をきたし、従業員への給与支払いや家賃などの必需品の支払いが滞る可能性があります。
Googleマップへの掲載の遅延
一部の地域では、Googleマップに自社を掲載しようとする事業者が、長期間の承認待ち時間に直面することがあります。これは、Googleの信頼と安全に関するチームが、一部の国では新しい住所を容易に認証できず、一部の現地語で書かれた事業関連書類を容易に確認できないためです。Google検索やマップに事業が表示されないことは、新規顧客の獲得や配送の受け取りに影響を及ぼしかねません。
オンラインマーケットプレイスからの排除
AirbnbやAlibabaなどのオンラインマーケットプレイスを利用して製品またはサービスを提供する事業者は、自動化されたキーワードフィルターによりブロックされ、掲載が停止される場合があります。こうした事業者は、この決定に対して英語でのみ異議申し立てを行うことが認められている場合や、信頼性の低い翻訳ソフトを使用せざるを得ない場合が多く、過剰な執行である場合にその決定に異議を唱えたり解決したりする能力が制限されます。オンラインで事業を行えないことは、収入の大幅な減少につながり得ます。
こうした信頼と安全に関する実務の一部は善意に基づくものであるかもしれませんが、負の結果をもたらした事例もあります。文脈に即し、地域に根ざした救済の仕組みは、信頼と安全の実施の延長として企業が検討すべきものです。例えば、地域のデータを用いて信頼と安全を評価・最適化し、資金に課される保留の期間と金額を縮小すること、また現地語を統合して効果的なフィードバックの循環を確保することなどが考えられます。
とはいえ、これらの判断に異議を唱える保護や能力は、均等に配分されていません。企業は、自国市場や主要経済圏のユーザーに対し、判断への不服申し立てや、テクノロジー・プラットフォームの方針策定においてより大きな権限と主体性を与える傾向があります。
途上国の企業はテクノロジーの導入が加速していますが、デジタル上の被害を防ぐ、現地に適した施策を受けるうえで大きな障壁に直面することが多くなっています。この格差は、先進国の企業が、現地の状況、文化、課題を十分に考慮することなく信頼と安全の分類体系やリスク枠組みを設計する場合に、特に顕著に表れます。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのでしょうか。
AI卓越センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、経済および社会へのその影響を理解することを支援しています。AI導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を促進しています。
信頼できる場や協働の取り組みを通じて、同センターはパートナーが共通の理解を構築し、AIのイノベーションと利用に関する責任あるアプローチに向けて共に取り組むことを可能にしています。
AIと不平等の課題
AIはモデルを学習させるために膨大な量のデータを必要とします。このデータへのアクセスは、5G、クラウドストレージ、最新のデバイスといった技術への人々のアクセスに大きく依存しており、こうした技術への早期アクセスはコンテンツ制作を加速させます。このコンテンツは、AIへのデータスクレイピングや投入の前に、企業の信頼と安全に関するフィルターを通過します。そのフィルターは、企業の規則や利益に従ってコンテンツを削除し得ます。
近年の大規模言語モデル（LLM）やその他の生成AIの応答は、技術的に先進的な地域の初期採用者によって形作られており、そのフィードバックが、何を欠陥のある、受け入れがたい、または最適な出力とするかを決定しています。
AIシステムへの早期アクセスは、先進国の研究者、開発者、ユーザーに与えられる傾向があります。有害、不正確、または不適切であるとして指摘された内容を含む彼らのフィードバックは、多くの主要なAI企業が安全プロトコルやコンテンツフィルターを開発する方法を形作っています。これにより連鎖的な影響が生じます。技術的な発展が遅れた国々を含め、後から採用するAIユーザーは、先進国の初期採用者の信頼と安全に関する選好によって事前に調整されたバージョンと接することになります。その結果、彼らは他者の偏見や懸念を通してフィルタリングされたコンテンツを目にすることになります。
さらに、ユーザー生成コンテンツに対する信頼と安全のプロトコルとは異なり、AIには異議申し立ての手続きがありません。多くのオンラインプラットフォームでは、ユーザーがブロック、停止、利用制限といった措置に異議を申し立てることが認められており、システムが過剰な執行を行っている場合に重要なフィードバックを提供しています。
しかし、AIの場合、この重要なフィードバックの循環が欠けています。人々は欠陥のあるAIの出力や有害な出力を報告できますが、これらのシステムは、公正な報告と不公正な報告を区別するようには設計されておらず、単にフラグが立てられたコンテンツを抑制するだけです。コンテンツが一度非表示にされると、AI開発者でさえそれに再び触れることはほとんどなく、審査や修正がほぼ不可能になります。その結果、コンテンツが恒久的に除外され、後から採用する人々がこれらを審査、異議申し立て、または影響を与えることができない、過剰な執行が生じます。
より包摂的なAIの信頼と安全モデルの構築
今日のAIの速度と普及は、信頼と安全に対する新たなアプローチと、その範囲の拡大を求めています。既存のAIの信頼と安全モデルは、AIによる被害が現れうる多様な形態に対して、地域的・文化的により適応し、さまざまな状況の現実に根差したものへと進化する必要があります。
AIは持続可能な開発の重要な推進力ですが、同時に、AIの利用と普及に関する信頼と安全も軽視されるべきではありません。国連開発計画（UNDP）が世界のAI公平性格差の解消に向けた取り組みを進めるなか、公平な成長に重点を置き、地域の状況に配慮した、AIの信頼と安全をより先を見越して再構築する方向転換が、これまで以上に重要になっています。
AIの信頼と安全に関する新たなモデルを実現し拡大するには、公共部門と民間部門のパートナーが協働し、地域のAIエコシステム内の特定の地政学的、環境的、文化的なニュアンスに適応させる必要があります。
AIの信頼と安全モデルの再構築への投資は、特に途上国において、AIのイノベーションが発展できる環境づくりに貢献します。 従来の分野への投資に徹底的なリスク評価が求められるのと同様に、AIの開発には、事業環境内における安全性、セキュリティ、市場リスクの包括的な評価が求められます。
途上国の新規AI企業は、AIの信頼と安全に関する課題への対応について、地域に即した支援を受けることが極めて重要です。これらは組織の存続性と成長に直接影響するためです。こうした支援がなければ、信頼と安全に関する施策は成功を助けるどころか、妨げとなりかねません。
信頼と安全は、健全なデジタル経済の発展と、公平なAIの未来の実現の基盤ですが、現在のモデルは、その限界の影響を最も受ける人々の声を排除することが少なくありません。次世代の信頼と安全の設計に最も適した立場にあるのは、既存のシステムから十分なサービスを受けていない地域社会であり、特に技術資源が乏しい地域の人々です。彼らの経験と洞察は、すべての人々に真に役立つ枠組みを構築するうえで不可欠です。
将来のAIの信頼と安全に関する問題に対する最も革新的な解決策は、現在の制度的アプローチから生まれるべきではなく、また生まれる可能性も低いでしょう。最も適切な答えは、多様な分野や地域のステークホルダーから生まれ、地域社会への配慮の倫理に内発的に動機づけられた創造的な個人によって主導され、デジタル被害との近接性や直接的な経験に基づく知見によって導かれるでしょう。
UNDPは、特に途上国出身者および途上国で活動する関係者に対し、AIの信頼と安全の再構築に参加するよう呼びかけています。共に、地域社会を守りエンパワーする枠組みを構築し、地域のイノベーションが発展できるようにしましょう。
Alexander Hradecky（UNDP、AIハブ・持続可能な開発、プロジェクトマネージャー）、Dwayne Carruthers（UNDP、デジタル変革コミュニケーション・アドボカシー・マネージャー）、Romilly Golding（コミュニケーション専門員）も本記事に寄稿しました。
