AI倫理をめぐる議論を変えるべき時です。その方法とは

• 人工知能（AI）の開発をめぐる白熱した議論は、この種の技術への不安を生みかねない倫理的懸念の影響を受けることがよくあります。

• AI技術の開発、複雑さ、リスクに関する誤情報が、この問題についての適切な議論を妨げています。

• しかしながら、この技術は私たちの管理下に置くことができ、また置かれるべきものであり、この認識は、AI開発を継続することの利点を浮き彫りにする助けとなるでしょう。

AI、倫理、そして世界のコミュニティにとっての利点をめぐる現在の議論は、白熱したものとなっています。大きな賭けと、複雑で急速に普及した技術が相まって、この議論を取り巻く極めて現実的な緊迫感と熱量が生まれています。

この技術の推進者は、世界的な革命をもたらしうる、歓迎すべき破壊者としてAIを位置づけることを好みます。一方、批判者は災害の可能性に重きを置き、AIが「超知能」に至る可能性や、「古典的なトロッコ問題」のような難解な倫理的問い、そして現実に存在する「結果」としてのアルゴリズムの偏りを挙げています。

誇大な宣伝に巻き込まれ、世界がAI技術の開発から十分な恩恵を受けられない状況を生み出してしまうのは、あまりにも容易なことです。その代わりに、私たちは一度立ち止まり、AI倫理をめぐって私たちの注目を競う数多くの声に対する批判的な視点を構築すべきです。

これらの声の中には、AI技術の導入が遅すぎたと認識している企業によるものもあります。また、早くからAIに参入し、混乱や規制の欠如を利用して不適切な慣行を追求してきた企業によるものもあります。最後に、インフルエンサーが影響力を持つ今日において、必要な専門知識を欠いたまま、個人のブランドを高めるためにAI倫理を取り上げる人々も存在します。

事実の確認

確かに、そこは危険な地雷原ですが、私たちはそれに立ち向かわなければなりません。この議論は、軽視するにはあまりにも重要で、不可欠なものです。そのことを念頭に置き、この議論の材料とすべき主要な事実を以下に示します。

1. 汎用人工知能（AGI）の到来をめぐる報道は、著しく誇張されてきました。

AGIは、標準的なAIよりも幅広い形態の機械知能を指します。さまざまな認知能力と、将来について学習し計画する能力を備えた機械を対象とします。コンピュータが知性と理性において人間に匹敵する、SF小説や映画に登場する技術が現実のものになったものです。

しかしながら、この数十年にわたりAIについて学んできたことで、AGIの出現に対する私たちの見通しは次第に楽観的でなくなってきました。むしろ、現代世界におけるほぼすべてのAIシステムは、機械学習（ML）と呼ばれるサブカテゴリーに属しています。これは極めて限定的であり、事例を通じてのみ学習します。これらの機械は独立して考えることはできません。

実際、現在AIとして売り込まれているツールの中には、MLよりもはるかに古いものもあります。それらは、より単純な統計的、専門家ベースまたは論理ベースのアルゴリズムに基づいています。しかしながら、知能を過度に重視する文化は、AIを擬人化し、人間の説明責任を弱めてしまいます。

2. 「ブラックボックスとしてのAI」という概念は神話です。

MLアルゴリズムは確かに複雑さの度合いが異なり、人間による解釈が他よりも容易なものもあります。とはいえ、最も不透明なアルゴリズムであっても、その挙動を探り、さまざまな入力に対する応答を定量化するために、多様な種類のツールや手法が開発されてきました。問題は、これらのツールが一部のアルゴリズムの利害関係者にとっては極めて専門的になりうることです。

AIシステムが信頼して利用できるほど十分に理解されていない場合、そのシステムを機微な状況に導入すべきではない可能性が高いでしょう。そのような状況では、利用者やその他の利害関係者にとって明確で安全な形で導入できるよう、さらなる精査を実施するか、行動上のガードレールを実装する必要があります。「ブラックボックスとしてのAI」は、人間の意思決定者が責任を免れるための言い訳として決して使われるべきではありません。

3. AIは、大きなリスクと大きな機会の両方を約束した最初の技術ではありません。

話題性の高い道徳的難問、例えばトロッコ問題を超えて、AIは現在、別の種類の倫理的問題に直面しています。これらの問題はおそらくより地味で華やかさに欠けるものかもしれませんが、最終的にはより広範な人間社会への影響をもたらすでしょう。

これらの問いに適切に対処するには、シスム安全の方法論を用いて、AIを明晰かつ冷静に、そして全体的に評価することが求められます。シstem安全とは、安全に関わるリスクを特定し、設計や工程によってそれを管理する手法です。原子力発電、航空、生物医学をはじめとする多くの産業は、主にこうしたリスクベースのシステム安全の枠組みを厳格に実施してきたことにより、安全で信頼性の高い産業へと発展してきました。

AIの開発に対する管理の維持

私たちは、この技術をありのままに見て、分析する必要があります。単純な事実として、現在および予見可能な将来のすべてのAIは、MLに基づくシステム、すなわちコードと人間によって統治される高度な統計アルゴリズムで構成されています。これらのシステムは私たちの管理下に置くことができ、また置かれるべきものです。リスクは列挙、緩和、監視することができ、混乱の危機を、私たちの共通の発展に資する成熟した技術へと転換させることができます。

このメッセージは次第に発信の場を得つつあり、AIの開発を有意義な形で形づくり始めています。例えば、欧州連合（EU）が最近提案した規制案は、高リスクのユースケースを定義するなどにより、正しい方向への重要な一歩を踏み出しています。データサイエンス・コミュニティは、社会的価値観に沿い、成果を向上させるモデルを構築することを望んでいます。EUによるこの練り上げられた提案は、実務者間の期待を標準化することで、イノベーションと産業の成長を後押しするでしょう。

この技術を統治し、責任を持って導入する能力が私たちにないと主張する人々は、虚偽を広めています。AI業界は、現在および将来にわたってこの技術の限界を押し広げるうえで、確かに大きな課題に直面しています。パートナーシップ、明確さ、そして実利的な姿勢を通じて、私たちはこの課題に立ち向かう準備ができるはずです。