特に医療のような高リスク分野でAIへの信頼を築くには、アルゴリズムがどのように、そしてなぜ特定の判断を下すのかを理解することが必要です。
しかし現代のAI時代において、これらのアルゴリズムは、あまりにもしばしばブラックボックスとなっています。特定の結果がなぜ生じるのかを、その創造者でさえ十分に理解していないのです。
医療のような高リスク分野にAIを導入するには、解釈可能で、かつバイアスのないアルゴリズムを使用しなければなりません。
アルゴリズムはあらゆる場所に存在します。ソーシャルメディアのフィードの形成から融資の承認への影響まで、アルゴリズムは私たちの生活に不可欠な要素であり、長い間そうでした。その広範な存在は最近の現象ではありません。命令の集合体であるアルゴリズムは、実際には何世紀にもわたって結果を決定する重要な役割を果たしてきました。
これは今日の時代に特に当てはまります。人工知能（AI）のような技術が、私たちの日常生活のあらゆる側面にアルゴリズムを織り込んでいるのです。
アルゴリズムは私たちの存在を形作るため、それらへの信頼を築くことは不可欠です。例えばAIシステムは、かつては比較的単純なアルゴリズムでした。これらのかなり初歩的なソフトウェアは、与えられたデータから学習し、主にパターンを識別することで、おおよその推定を行うことができました。今日私たちが目にする、より高度なAIの前身にあたるこれらのシステムは、売上予測やリスクスコアリングといった、それほど高度でない用途で今でもしばしば使用されています。
しかしながら、この10年間で、AIは想像すらできなかったレベルにまで向上するのを私たちは目にしてきました。
ブラックボックス型アルゴリズム
OpenAIのChatGPTを支える技術などの最先端のAIは、非常に強力になり、専門のライターやデザイナー、映像制作者に匹敵するテキスト、画像、さらには動画を生成できるまでになりました。しかし、そこには代償もありました。旧来のモデルは精度は低いものの、その単純さゆえに、現在のAIの大半を支える、いわゆる「ブラックボックス」型モデルと比べて、はるかに解釈可能であり、そのため信頼性も高いのです。
現代のAIは、その複雑さゆえに低リスクの場面では非常に効果的ですが、医療、刑事司法、金融などの高リスクの場面では信頼することがほぼ不可能です。OpenAIの創設者であるサム・アルトマン氏は、今年の世界経済フォーラム年次総会において、「OpenAIのタイプのAIは、いくつかのことは得意だが、生死がかかった状況ではそれほど得意ではない」と述べました。
そのため、重要かつ機微な分野において、そうしたモデルを完全に信頼できるようになるまでは、その洞察に頼ることはできないでしょう。私たちは、互いへの信頼だけでなく、機械への信頼も再構築する必要があります。容易な課題ではありませんが、十分な協力があれば、実現は可能です。
説明可能性：ブラックボックス型アルゴリズムを超えて
最初の一歩の一つは、「解釈可能な」AIシステムを開発し、その導入を提唱することです。ChatGPTのような大規模言語モデルを支える現在のアーキテクチャでは、これらのアルゴリズムの内部を覗くことができません。AIが特定の回答や推奨に至った意思決定プロセスを理解することができないのです。これは高リスクの場面において重大な問題を引き起こします。医療分野では、モデルがなぜ患者を特定の疾患と診断したのかを理解する必要があります。そのような診断の背後にある考慮事項を理解する必要があります。アルゴリズムの出力を確認する医師は、モデルが医師のアプローチに沿った結論に到達したことを検証できなければなりません。一般的に言えば、特に機微な用途においては、AIに対して「なぜ」そのような結論に至ったのかを問い、AIが経た論理的プロセスを理解できる必要があります。その流れを検証することで、思考過程の欠陥を発見できるかもしれません。こうした欠陥は一般に「ハルシネーション（幻覚）」と呼ばれています。
バイアスの除去：アルゴリズムによる判断に公平性を組み込む
モデルの説明可能性は、信頼できるAIを追求する取り組みの一部に過ぎません。AIシステムは利用するデータの質によってのみ良し悪しが決まるため、そのようなモデルの学習に使用されるデータが最高品質であることを確保することが極めて重要です。これは、正確で事実に基づく情報を提供できる高品質なデータソースを使用することを意味します。しかしながら、現実の場面でそのような情報を入手することは、必ずしも容易ではないかもしれません。
私たちやアルゴリズムがデジタル形式で取り込むデータや情報の大半は、さまざまな制約を受けています。このため、AIシステムは本質的な悪意からではなく、歴史的に偏った情報で学習しているために、バイアスを示す傾向があります。これは高リスクの場面では潜在的に有害であることが分かっています。例えば、ある個人の再犯の可能性を予測する仮想のAIシステムは、民族、性別、その他の保護対象属性に基づいて差別する可能性があります。バイアスを軽減し、理想的には除去するために使用できる手法はいくつかあります。利用者として、こうした可能性があることを認識し、差別を回避するための安全対策が講じられているかを確認するために、アルゴリズムの開発者に対して鋭い質問を投げかける必要があります。
政策の枠組み：AIへの統一的アプローチ
最後に、AI開発に関する共通の指針を提供するための共通の枠組みを確立する必要があります。AIはまだ初期段階にあるため、AIシステムのベストプラクティスと要件を示す統一された枠組みがいまだに不足しています。これが断片化を招いています。民間および公共の主体は、独自のガイドライン、あるいはそもそもガイドラインがないまま取り残されており、その結果、潜在的に有害なシステムが広く一般に利用される事態を招いています。
エール大学デジタル倫理センター所長のルチアーノ・フロリディ教授は最近のインタビューで、「私たちは、技術の提供者が市場、社会、そして環境に好影響を与えることができる、ウィンウィンの社会を設計すべきである」と述べました。そのためには、各国や各業界に広く適用可能な枠組みを政府や国際機関が策定し、イノベーションを阻害することなく規制を確保することにより、一貫性と共通の指針を確保する必要があります。
そうしたアルゴリズムの利用者として、私たちは信頼できる、公平で責任あるAIを提唱する義務があります。そうしたシステムの開発や規制に関わる組織として、私たちは多様な利害関係者の間で官民の協力を促進し、幅広い専門知識を活用する必要があります。
専門家、政策立案者、利用者を同じテーブルにつかせることによってのみ、重要な役割を果たす高リスクの場面においてもAIシステムへの信頼を再構築することを真に成功させることができ、人間と機械が協力し、より良い社会の実現に向けて歩むことを確保できるのです。
