オーストラリアは、42か国のうちの一つであり、先週、署名に加わった人工知能（AI）システムの開発に関する新たな政策指針に。
しかしオーストラリアには独自のAI倫理に関する指針案が公開協議に付されており、他の多くの国や業界団体も独自のAI指針を策定している。
なぜこれほど多くの指針が必要なのか、また、そのいずれかに法的拘束力はあるのだろうか。
新たな原則
最新の政策指針は、人工知能に関する勧告で、経済協力開発機構（OECD）が策定したものだ。
この勧告は、信頼できるAIを責任ある形で開発するための5つの原則を掲げている。また、国内政策の策定と国際協力に向けた、これを補完する5つの戦略も盛り込んでいる。
OECDによる勧告であることから、経済の向上とイノベーションの促進、そしてAI開発における基本的価値と信頼の醸成とのバランスを取っている。
5つのAI原則は、次の事項を促している。
1. 包摂的な成長、持続可能な開発、ウェルビーイング
2. 人間中心の価値観と公平性
3. 透明性と説明可能性
4. 堅牢性、セキュリティ、安全性
5. 説明責任。
これらの勧告は幅広い内容で、法律や規則としての効力を持つものではない。その代わり、加盟国に対し、AI開発にこうした価値観や倫理を取り入れるよう促している。
そもそも、AIとは何を指すのだろうか。
AIに関して具体的な勧告を行うのは難しい。その理由の一つは、AIが、単一の用途を持ち、それに固有のリスクや脅威をもたらす一つのものではないことだ。
むしろAIは、多種多様なシステムを指す包括的な用語となっている。それぞれのシステムは通常、コンピューター技術を用いてデータを収集・処理し、変化に適応し、最終的には人の介入なしに目的を達成するため、合理的に行動するよう設計されている。
その目的は、言語の翻訳や顔の識別から、チェスの対局までさまざまだ。
こうした目的の達成に特化して優れたAIは、しばしば特化型AIと呼ばれる。チェスを指すAIがその好例だ。チェスを指すために特化して設計され、その能力は非常に高いが、他の作業にはまったく役立たない。
一方、汎用AIがある。これは、そう言われているAIであり、ほとんど、あるいはすべての作業において人間の知能に取って代わるとされる。実現にはまだ長い時間がかかるが、一部のAI開発者にとって究極の目標であり続けている。
しかし、AIをめぐる多くの懸念や誤解を生み出しているのは、まさにこの汎用AIという考え方だ。
数多くの指針
こうした懸念や、特化型AIに関する数々の現実的な問題を受け、OECDの勧告は、AIを倫理的に開発するための取り組みや指針の最新例となっている。世界各国の政府やその他の機関が、同様の取り組みを進めている。
これには、電気電子技術者協会、フランスのデータ保護機関、香港個人資料私隠専員公署、そして欧州委員会による取り組みが含まれる。
オーストラリア政府は、CSIROのData61にAI倫理枠組みの策定を委託する資金を提供した。この枠組みは現在、一般からの意見募集が行われている。また、オーストラリア学術アカデミー評議会は、オーストラリアにおけるAIの未来に関する報告書をまだ公表していない。
オーストラリア人権委員会も、世界経済フォーラムとともに、AIが人権に及ぼす影響を調査し、報告している。
こうした取り組みの目的は、AIの倫理的な開発を促すことだ。しかし、それは非倫理的な行為があることを前提としている。AIの何が問題なのだろうか。
非倫理的なAI
ある研究は、AIが悪用される可能性のある大きな3つの分野を特定した。対象となるのは、次の領域だ。
デジタルセキュリティ（例：サイバー攻撃）
物理的安全（例：ドローンを使った攻撃やハッキング）
政治的安全（例：AIを大規模監視、説得、欺瞞に利用する場合）。
懸念される動きの一つは中国で進んでいる。複数の地域で、社会信用システムの開発が進められており、大規模監視と連動し、AI技術を利用している。
このシステムは、社会規範に違反した人（信号無視、犯罪者との交際、ソーシャルメディアの不適切な利用など）を特定し、その人の社会信用ポイントを差し引くことができる。
信用スコアが下がると、旅行や借り入れなど、その人の自由が制限される。これはまだ全国規模の制度ではないが、報道によると、それが最終的な目標となる可能性がある。
こうした意図的なAIの悪用に加え、設計や実装が不十分な特化型AIは、意図しない副作用もいくつかもたらす。これには、偏りや差別、そして信頼の損失が含まれる。
AIをめぐる合意形成
何が倫理的かについて、社会によって考え方は異なる。同じ社会の中でも、どのような行動が倫理的かという見解は人それぞれだ。では、AIの倫理的な開発について、世界的な合意を形成することはできるのだろうか。
AI開発の範囲は非常に広いため、倫理的な行動に関する共通規範を特定し、それを合意された世界共通のルールの基礎とできるまでは、倫理的なAIに関する政策をこれ以上具体化することはできない。
上記の報告書や指針という形で、現時点で重要と考える価値観、権利、規範を策定し、明示することで、各国間の信頼構築に向けて取り組んでいる。
さまざまな指針には、人権、セキュリティ、安全性、透明性、信頼性、説明責任を考慮したAIの必要性など、共通するテーマが現れつつある。そのため、世界的な合意の実現に近づいている可能性はある。
