コンピュータサイエンティストと哲学者が「Radio Davos」ポッドキャストに出演し、AIの開発、利用、規制において倫理がなぜ重要な課題なのかを議論します。
こちらから登録して、ポッドキャストシリーズ全編をお聴きください。エピソードページと文字起こしはこちらでご覧いただけます。
生成AI（人工知能）には大きな可能性がありますが、リスクや課題も伴います。「Radio Davos」の特別シリーズにおける今回のエピソードは倫理に焦点を当てており、AIを開発、利用、規制するうえで倫理がなぜ中心的な課題であるのかを取り上げます。
ノースイースタン大学の哲学者で、同大学の実験的AI研究所（Institute for Experimental AI）で倫理リードを務めるCansu Canca氏の話を伺います。また、非営利研究所Cohere for AIを率いるSara Hooker氏と、世界経済フォーラムでメタバースおよびAIの価値創造を担当するConnie Huang氏の見解もご紹介します。
お好みのポッドキャストサービスでお聴きいただけます。エピソードの主な発言を以下にご紹介します。
公平性という問い
Canca氏は、応用倫理学者として、AIが彼女にとって提起する重要な問いについて探るため、「Radio Davos」に出演しました。
「公平性を最適化する方法や、公平なアルゴリズムを実現する方法について話すには、まず公平とは何を意味するのかを定義できなければなりません」と彼女は言います。「そして、公平性の定義において、どの文脈でどの公平性の理論が適切かという理解は、哲学、そして道徳・政治哲学の分野から来るのです。」
Canca氏にとっての問いは、なぜ彼女が議論に関わっているかというよりも、なぜ同僚の多くがそうでないのか、という点にあります。「政策立案や、AIシステムの開発・利用を進める中での日々の意思決定には、暗黙的であれ明示的であれ、倫理的な判断が組み込まれています。」
これらの問いが重要な理由
Canca氏が特に強調するのは、現時点でAIシステムには倫理的または非倫理的に行動する主体性がない、という点です。「私たちは、正当な理由から、これを責任あるAIと呼び替えています」と彼女は言います。「倫理的AIという言い方では、AIシステムが主体性を持ち、倫理的に行動する能力があるかのような印象を与えてしまいますが、少なくとも現時点では、私たちはそこまで到達していません。」
しかし、どのように呼ぶにせよ、理解し検討すべき事柄は依然として多い、と彼女は強調します。また、彼女は、リスクを軽減するための規制の役割や、この技術の開発と展開に関わる企業や組織の役割もあると考えています。
そして、これらは抽象的な問題ではありません。
「例えば、公平性の問題がなぜ重要なのかを考えるとき、それは、AIシステムを日常生活や社会に組み込むことによって、私たちが実際に、これから生きていく構造を作り出しているからです」とCanca氏は述べます。「そして、その基盤となる構造が不公平であれば、公平な社会を作れる望みはありません。」
彼女は、社会はリスクを理解するうえで、より多くの教育が必要だと考えています。
「はっきり言えば、リスクは非常に大きいものですが、それは通常、一般の人々が想像していたり、新聞が信じ込ませようとしているようなリスクではありません。これは「ターミネーター」のような状況ではありませんが、ターミネーターのような状況ではなく、公平性の問題は人を死に至らしめるのです。もし、あなたのリスクが別の人より不当に低く評価されて医療を受けられなければ、それが命を奪うのです。ですから、公平性の問題は単なる抽象的な問いではないのです。」
彼女は次のように要約しています。「あなたを追い に来る人型ロボットがあなたを殺すのではありません。しかし、これを解決しなければ、ごく平凡なリスク評価システムがあなたを死に至らしめるのです。」
ガバナンス
大規模言語モデルから、トレーサビリティや監査に至るまで、Cohere for AIのSara Hooker氏は、倫理的AIを理解し議論するうえで必要な用語について、わかりやすい背景説明をしてくれました。
また、生成AI、例えばChatGPTをめぐって私たちが期待していることの多くは、思われていたよりも時間がかかっています。
「興味深いのは、今あなたが目にし、期待し、私が感じるに、関わっているものは、実際にはいくつかの異なる段階が積み重なった結果だということです」と彼女は言います。「研究者にとっては、ゆっくりとした積み重ねでしたが、それは人々と非常に直接的に結びついています。」
また、Hooker氏は規制が必要だと考えています。「長年この技術に取り組んできた者として、私たちが持つモデルの能力が段階的に変化していることは否定できません。
「研究者として、私はこのことを強く懸念しています。長年取り組んできた研究に、これほど多くの人々が結びつき、理解し、興奮してくれることは、ある意味で非常にわくわくすることだからです」と彼女は言います。
「この技術で変わったことの多くは、人々が自分はアルゴリズムと対話していると感じている点だと思います。しかし、多くの研究者にとっては、それが懸念にもなります。あなたの考え、通常はまだ研究段階のアイデアが、世界中の何百万人もの人々に採用され、非常に異なる方法で使われているからです。」
世界経済フォーラムは、人工知能の倫理的な開発をどのように確保しているのでしょうか？
対話の時です
Hooker氏によると、この技術の利用が広がるにつれて、開発を裏付け、追跡する方法が極めて重要になるといいます。
「私たちは、行動が期待どおりであること、そしてこれらのモデルが現実世界で新しいデータに直面したときに、頑健な方法で機能できることを検証する方法が必要です」と彼女は言います。
「現在、これらのモデルには十分なトレーサビリティがありません。そのため、一度公開されると様々な方法で利用されますが、どのモデルが使われたのかを遡って追跡する良い方法がありません」と、彼女はライセンスのもとでの公開の可能性や監査の必要性について議論しながら付け加えます。
しかし、こうした対話を行うことが重要だと、彼女は結びます。
「個人的には、研究者として、この件についてより豊かで、より正確な対話を私たち全員が行うことに強く賛成です。なぜなら、その多くは、何が実現可能か、何をベストプラクティスとして標準化できるか、そして、政策立案者やユーザーとともに研究者も議論の場に加わり、それぞれの集団への影響を考えることにほぼ等しいからです。」
世界経済フォーラムのConnie Huang氏は次のようにまとめています。「私たちは多くの機会に目を向けていますが、同時に、研究と、課題やトレードオフについての共通の認識によってバランスを取る必要もあります。つまり、私たちの技術の採用に伴って生じうる意図しない結果です。」
