AIの世代間影響を考慮しなければならない理由

• 技術は、採用、金融、教育などの日常的な問題の解決に用いられることが多いものの、既存の公平性の問題や権力の不均衡には対処されていません。

• AIは、人種、ジェンダー、階級に基づく歴史的な不平等を永続させる可能性があり、現在の世代だけでなく将来の世代にも害を及ぼします。

• これは、人類のためのAIに関するグローバル未来評議会による取り組みであり、今日行われる技術に関する決定が世代間に及ぼす影響を十分に考慮しながら、政策立案者と規制当局がこうした技術の利用を再検討する必要性を取り上げています。
  

私たちの未来はまだ書かれていませんが、過去が現在への道を切り開いてきたように、私たちは日々の共同の努力によって、その基盤を形作っています。人工知能（AI）およびAI倫理に関する現在の議論は、主に今日の人々への影響に焦点が当てられています。例えば、採用、金融、教育におけるAIの利用の公平性などです。しかし、今日のAIシステムが将来世代に及ぼす、同じくらい重要な世代間の影響についてはどうでしょうか。政策立案者と規制当局は、これらの問題に注意を払うべきです。

現在、世界人口のごく限られた層が、テクノロジー分野における意思決定の権限を握っており、彼らの決定が私たちの共通の未来を形作っています。さらに、テック業界の外にいる人々は、しばしば単なる消費者とみなされ、自らの生活や生計に影響を与える技術についての議論から取り残されています。これにより権力の不均衡が深まり、世界における搾取的な状況や不正義が助長されています。したがって、意思決定のレベルで変化がなければ、AIが将来の世代に害を及ぼす危険があります。

AIが既存の不平等を助長する仕組み

例えば、試験の監督、受験者の本人確認、試験環境の公正性の確保のために使用される自動試験監視システムの事例を考えてみましょう。多くの教育機関がバーチャルプラットフォームに移行したCOVID-19のパンデミックの間、これらの応用は特に有用でした。しかし、これらの技術の弊害と影響について、新たに判明しつつある知見があります。これは、10年以上にわたる研究に基づくものです。その研究は、日常的な技術が不平等な影響を及ぼすことを調べてきた、女性や有色人種の研究者によるものです。

歴史的に見ると、米国の研究では、学校で行われる懲戒処分において著しい人種的偏見があることが示されています。プリンストン大学のトラビス・リドルとステイシー・シンクレアによれば、「黒人の生徒は、同じ違反行為に対して白人の生徒よりも問題児とみなされやすく、罰せられやすい」とのことです。学校における行動監視を自動化された技術的な方法で実施すれば、こうした差別的な措置は避けられるだろうと考えたくなりますが、研究はそうではないことを示しています。MITの研究者としてジョイ・ブオラムウィニは次のように指摘しています。「AIはデータに基づいており、データは私たちの歴史を映し出すものです。」彼女の研究は、ドキュメンタリー『コーデッド・バイアス』で取り上げられており、「機械学習アルゴリズムは...社会に既存する人種、階級、ジェンダーに基づく不平等を永続させ得る」ことを浮き彫りにしている、とニューヨーク・タイムズの書評は伝えています。

こうしたツールや手続きの根底には、数十年前に形成された規範的な社会インフラがあり、そこでは学生は違反行為を監視されるべき対象として見なされています。新しい技術製品において同様の考え方を再現する前に、私たちはこうした考え方を精査する必要があります。シェア・スワウガー（コロラド大学デンバー校の大学司書兼研究者）は、次のように指摘しています。「技術が不正行為の条件を生み出したわけではなく、技術がそれを止めることにもなりません。高等教育に携わる私たちにできる最善のことは、学生を信頼するという根本的な発想から始めることです。監視よりも思いやりを選びましょう。」

現在と将来の害の軽減

システムがデジタルでコード化されると、それは一生涯にわたって人に結び付けられ得る、判断の恒久的なデジタル記録となります。「私たちは、デジタル監視の常態化を覆すことが困難になる転換点に到達しています。さらに、その影響は長期にわたり、複数の世代に及ぶ可能性があります」と、カリフォルニア大学ロサンゼルス校（UCLA）でジェンダー研究およびアフリカ系アメリカ人研究の准教授を務めるサフィヤ・ノーブル博士は述べています。では、現在稼働しているAIシステムによる既存および将来の害を軽減する構造を、どのように整えればよいのでしょうか。

規制は、こうした取り組みにおいて重要な役割を果たし得ます。株主や投資家にとっての現在の経済的利益は、過去50年にわたり急速に成長してきた多くの技術革新の中核にある主要な価値となってきました。複数の世代にわたり、さまざまな産業でAIが導入されていくことを踏まえ、AIの将来について長期的な視点で考える必要があります。世代間の影響に対処することで規制へのアプローチを刷新する、今こそ重要な時期です。

通常、規制は短期または中期的なトレードオフに焦点が当てられています。このアプローチでは、世代を超えた害を軽減するための先を見越した行動ではなく、対症療法的な行動となることが多いのです。世代間の視点からAI規制を捉えるには、まず、こうした技術システムの歴史的背景と向き合う必要があります。支配的なイデオロギーや社会政治的構造は、これらのツールをどのように形づくってきたのでしょうか。

この理解の枠組みの中で、AIとそれに関連する物理的およびデジタルインフラが、現在および将来の世代にどのような影響を与え得るかを解き明かし始めることができます。世代間の視点からAIの潜在的かつ全般的な影響を予測することは、新たなデータや研究、マルチステークホルダーの懸念、そして世界的な可能性に対応した規制へと、私たちをより近づけるでしょう。

AI規制の現在の動向は、有望な前進の道筋を示しています。2019年、アオテアロア・ニュージーランドは世界経済フォーラムと協力し、AIの信頼できる設計と展開を確保するため、政府向けの「AI規制の再構想」プロセスを開発しました。

より最近では、米国連邦取引委員会（FTC）が、AIにおける「真実性、公正性、公平性」に関する大胆なガイドラインを2021年に公表しました。また、欧州委員会も今年初めにAI規制に関する提案書を公表しました。これらの施策は、AIシステムに関連する透明性、説明責任、影響評価を改善するための有益なアプローチを提供しています。世代を超えたAIの影響に関する議論において、より多くの世代間、学際的、国際的な声を取り入れることで、こうした手続きをさらに発展させることができます。

この視点から生み出される規制は、現在の害を軽減し、将来の損害さえ防ぐことができます。先住民の知恵は、意思決定を、過去、現在、未来のいずれにおいても、人と地球の幸福を優先する500年にわたる責任として捉えるよう私たちに教えています。今日の短期的な利益から離れ、次世代のために健全で繁栄する未来を築きたいのであれば、これらの教訓に耳を傾けなければなりません。