人工知能やスマートシステムなどのデジタル技術が急速に進歩するなか、データ侵害を含むシステム上の脆弱性が急増しています。
デジタル技術の規制や標準化に向けた現在の取り組みは断片化しており、グローバル・ノースの視点に支配されています。
倫理的な配慮は、後付けで扱うのではなく、技術開発の最初期から組み込むべきです。
人工知能（AI）が進化し、スマートシティが人々の動きを追跡し、アルゴリズムが採用面接の合否を決めるなか、社会が直面する問いは、デジタル技術が私たちの生活を形づくるかどうかではなく、どれほど責任を持って形づくるかです。
しかし、この急速な変革のただなかで、ひときわ明らかに欠けているものがあります。こうした技術の開発、導入、統治のあり方を定める、共通の倫理的なテクノロジー標準です。私たちは、安全性、公平性、長期的な影響に関する設計図のないデジタル世界をつくり上げてきました。
今、これが重要な理由
デジタル技術への世界的な投資は急増し続けていますが、重大なシステム上の脆弱性がますます明らかになっています。
2024年、Identity Theft Resource Centreは記録しました。米国で3,205件のデータ侵害が発生し、約120億件の記録が漏えいしました。被害者数は2023年と比べて312%増という驚くべき増加でした。
世界全体では、侵害されたアカウント数は2023年の約7億3,000万件から2024年には55億件超へと増加し、毎秒平均180件のアカウントが侵害されました。
注目を集めた事案には、2024年4月のNational Public Dataのデータ仲介事業における情報漏えいがあり、29億件の記録が流出しました。また、「史上最大の情報漏えい」と呼ばれる、260億件に及ぶ大規模な情報漏えいも発生しました。
こうした数字は、単なる技術上の異常を示すものではありません。倫理とレジリエンスを考慮したデジタルシステムの設計に、構造的な欠陥があることを示しています。
テクノロジー標準：信頼を支える、欠けている層
食品安全、建設、航空には厳格な標準を求めるのに、AIやデジタルヘルスはなぜ例外なのでしょうか。
標準には二つの重要な役割があります。第一に、安全性、透明性、説明責任を確保する共通の枠組みを提供します。特に、技術が国境を越えて使われる場合に重要です。第二に、政府から投資家まで、関係者の期待を共有することで、市場の信頼を築きます。
それにもかかわらず、デジタル技術の標準化は依然として断片的で、事後対応に終始しています。によると、経済協力開発機構（OECD）によれば、新興技術のうち、倫理的または社会的リスクを扱う国際規範の対象となっているのは10%未満です。
有望な取り組みもいくつか始まっています。欧州連合（EU）のAI法は、リスクに基づくアプローチでAIシステムを規制しています。
世界経済フォーラムの第四次産業革命センターは、世界各地の政府や企業と連携し、ガバナンス・サンドボックスの試験運用を進めています。非営利機関も、開発の初期段階で倫理的な設計原則を優先する、エンジニアリング指向の標準を導入しています。
しかし、こうした取り組みは互いにつながっていません。世界的な連携がなければ、企業は規則が入り組んだ状況に直面します。さらに悪い場合には、健全性より速度を優先する規制の空白が生じます。
デジタル技術が検索結果以上のものを左右する時代に、私たちは入りつつあります。経済、公共サービス、個人の権利が形づくられていきます。
テクノロジー標準に包摂性と柔軟性が必要な理由
テクノロジーは真空の中に存在するわけではありません。価値観が技術を形づくります。では、誰の価値観でしょうか。
現在の取り組みの多くはグローバル・ノースの声に支配されており、デジタル植民地主義への懸念を招いています。新興国が農業、教育、公衆衛生にAIを導入するなか、標準に多様な文化的、経済的、政治的背景を反映させることが欠かせません。
さらに、従来型の標準策定には何年もかかることがあります。
AIモデルが数週間で進化する世界では、より迅速で、協働的かつ柔軟なプロセスが必要です。オープンソースの倫理ツール、動的なテスト環境、関係者との反復的な協議などを含むアジャイル・ガバナンスは、考えられるモデルの一つです。
より安全なデジタルの未来に向けた3つの優先課題
デジタル技術の責任ある普及を加速させるため、実行可能な3つのステップを紹介します。
1. 倫理を後付けではなく、設計の要件にする
企業はチェックリストに頼るのをやめ、技術開発の初期段階から人権、社会的影響、長期的なリスクを取り入れる必要があります。価値に配慮した設計や倫理的影響評価など、実績のある手法がこのプロセスの指針となります。
実際には、新しいシステムの導入前に、製品チームが倫理学者、市民社会、影響を受けるコミュニティと協働することを意味します。業界主導の標準の中には、すでにこうした枠組みを提供するものがあります。今後の課題は、規模の拡大と実効性の確保です。
2. 標準をインセンティブに結びつける
標準は社会を守るだけでなく、企業も守ります。デジタル倫理を環境・社会・ガバナンス（ESG）の基準と連動させれば、投資家はベストプラクティスを先を見越して採用する企業に報いることができます。
政府も役割を果たせます。調達契約、研究開発助成金、規制当局の承認を、国際的に認められた標準の活用に結びつけることができます。
3. マルチステークホルダー・プラットフォームで世界的な連携を図る
デジタルリスクに単独で対処できる政府や企業はありません。たとえば、世界経済フォーラム、OECD、国連教育科学文化機関（UNESCO）などの機関は、国境や分野を越えた連携を促すうえで、独自の立場にあります。
世界経済フォーラムのグローバル・フューチャー・カウンシルズとAIガバナンス・アライアンスは、こうした協働の有望な場を提供していますが、その提言を意思決定者が広く採用する必要があります。
標準は公共財
デジタル技術が検索結果以上のものを左右する時代に、私たちは入りつつあります。経済、公共サービス、個人の権利が形づくられていきます。この時代を責任ある形で乗り越えるには、倫理に根ざし、世界的に認められ、将来にも対応できるテクノロジー標準が必要です。
倫理的な設計が競争上の不利になってはなりません。イノベーションの基本であるべきです。私たちが直面する選択は明らかです。意図と包摂性をもってデジタル技術を構築するか、社会の信頼と結束を損なうリスクを負うかです。
今ほど行動が急がれる時はありません。
