世界的なCOVID-19危機は、人工知能（AI）関連の取り組みの展開を世界規模で加速させる要因となりました。
AIシステムの倫理とガバナンスは明確ではありません。
真のインパクトを生み出すには、3つの主要課題を前進させる必要があります。
世界的なCOVID-19危機は、AI関連の取り組みの展開を世界規模で加速させる要因となりました。5年かけて進むはずだった技術の導入が、6か月で実現しました。
パンデミックによってAIが瞬く間に私たちの生活に浸透した一方で、AIに関するルールや倫理を理解する必要性も高まりました。たとえば、生体情報の追跡・接触者追跡アプリの運用を担うテクノロジー企業は、膨大な量の個人の生体データを保有するようになりましたが、そのデータをどう扱い、どう保護すべきかについて、明確なルールはありません。
その結果、企業やステークホルダーは、サイバーセキュリティの不備、蔓延する偽情報や誤情報の拡散、無差別なデータ販売といった、本来なら容易に防げる問題への対応に追われています。
これほど重大な影響が懸かっているのに、AIシステムのルールやガバナンスは、なぜもっと明確ではないのでしょうか。
努力が足りないわけではありません。ここ数年、AIの責任ある開発と利用を支える原則や指針が相次いで示されてきましたが、目立った変化はありません。
インパクトを生み出すには、次の3つの主要課題を掘り下げる必要があります。
1. AIの倫理と、その運用ルールをめぐる既存の対話を広げる。
AIと倫理をめぐる議論を大きく広げ、AIシステムの微妙な側面やライフサイクル、各段階で生じる影響を理解する必要があります。
こうした議論は往々にして十分な範囲に及ばず、ライフサイクルの開発・導入段階だけに焦点を当てています。しかし、多くの問題は、構想、研究、設計という、より早い段階で生じます。
あるいは、複雑適応系における失敗を避けるために必要な成熟度にAIシステムが達しているか、また、そもそもその段階で稼働するのかを見極められていません。
もう一つの問題は、企業やステークホルダーが倫理を演出することに注力し、AIを公益のために活用しているように見せながら、より根本的で問題のある側面を無視することです。これは「倫理ウォッシング」と呼ばれます。倫理的な問題に対処しているかのような表面的で安心感を与える、しかし実態のない印象を作り出し、結果として問題のあるパターンを深刻化させるシステムの推進を正当化することです。
透明性を倫理の指針にしましょう。この議論には多くのトレードオフやグレーゾーンがあります。そうした複雑なグレーゾーンにこそ、踏み込みましょう。
「倫理をめぐる議論」では、さまざまな行動方針に伴う異なるトレードオフを強調することがよくあります。しかし、真の倫理的監督とは、選択された選択肢では何が考慮されていないのかに対処することです。
この重要で、しばしば見過ごされるプロセスの一部が、AI倫理に取り組む人々の障壁となっています。
2. AI倫理をめぐる議論が、意味のある行動に結び付いていない。
AIシステムの開発、組み込み、導入を担う人々は、その仕組みや、権力構造を変え、既存の不平等を温存し、新たな不平等を生み出す可能性を理解していないことがあまりにも多くあります。
AI研究や機械学習では、AIの能力を誇張することがよく知られた問題です。そのため、AIが解決するために設計された実際の問題を理解したり、後に生じ得る問題を特定したりすることに対する油断が生まれています。能力が不十分で未成熟なAIシステムを導入した後でも、人間がループ内で監視すれば修正できるという考えや、特にサイバーセキュリティと両立する解決策があるという想定は、誤りであり、危険を招きかねない幻想です。
この理解不足は、近視眼的な技術決定論の言説にとらわれ、世界、産業、社会の課題に対して技術による解決や最適化を図る意思決定者に見られます。彼らはしばしば、問題が実際に何を必要としているかに目を向けるのではなく、提供されるものに目を奪われています。
AI倫理を真に理解するには、より多様な専門家やステークホルダーの声に耳を傾ける必要があります。そこには、AIが後に及ぼし得る影響や限界を理解する人々も含まれます。たとえば、AIシステムの構築、訓練、運用に必要な資源が環境に与える影響、他のシステムとの相互運用性、そしてAIシステムを安全かつ確実に停止できるかどうかなどです。
3. AIと倫理をめぐる対話が、象牙の塔に閉じこもっている。
倫理、平等、ガバナンスといった概念は、高尚で抽象的だと見なされることがあります。AIをめぐる議論を地に足の着いたものにし、意味ある責任と責任の所在を見極める必要があります。
AIシステムは本質的に非政治的だと考える人がいるとすれば、それは誤りです。とりわけ、システムが本来想定されていない状況に組み込まれたり、訓練されていないタスクに直面したりする場合はなおさらです。
構造的な不平等は広く見られます。たとえば、予測アルゴリズムは警察活動に利用され、しばしば明らかな偏りがあります。さらに、負の影響を最も受けやすい人々は、議論に参加する力を与えられていないことがよくあります。
解決策の一部であり課題でもあるのは、なじみのない暗黙の緊張やトレードオフを踏まえて倫理を捉え直すための共通言語を見つけることです。大規模な技術変革は常に、社会、経済、政治に深い変化をもたらしてきました。それについて公に語り、安全で倫理的な実践を確立する方法を見いだすには、いつも時間がかかります。
しかし、私たちには時間がありません。
情報時代にふさわしい倫理を共に再構想し、縦割りの思考を乗り越えて、分野横断的な知見と科学的な知見、そして議論を強化しましょう。実行可能な道は、透明性を確保し、責任の所在を明らかにし、AIがルールを一方的に定め、深刻な被害をもたらしかねない形で使われるのを防ぐ、実践的で参加型の倫理を築くことだけです。
アンジャ・カスペルセンとウェンデル・ウォラックは、カーネギー国際問題倫理評議会のシニアフェローです。両氏は国際的な諮問委員会とともに、カーネギー人工知能・平等イニシアチブ（AIEI）を率いています。同イニシアチブは、AIが平等に影響を及ぼす無数のあり方を理解し、それを踏まえて、AIの恩恵をすべての人が受けられるようにする仕組みを提案することを目指しています。
