アルゴリズムガバナンスとは、AI技術に組み込まれたアルゴリズムの構築と利用に関するルールと実践を指す。
これにより、アルゴリズムが適切に機能することが確保され、技術的な差別や法令違反などのあらゆる誤りを防止する。
本稿では、組織が利用できるアルゴリズムガバナンスのさまざまなモデルを概説する。
2023年6月、欧州議会は、市民の基本的権利に対するリスクのレベルに応じて人工知能（AI）の設計と利用を規制することを目的とした法的文書について採決を行った。消費者であれAI設計者であれ、公的および民間の利害関係者は、自らの活動の遵守を確保し、何よりも危害を回避するため、アルゴリズムガバナンスを構築しなければならない – 一部の少数のユーザーに対してさえも – また、近年見られたようなアルゴリズムをめぐるスキャンダルに関連するレピュテーションリスクを最小限に抑える必要がある。近年。
このように、OpenAIは、対話型エージェントであるChatGPT – およびそのGPTアルゴリズム – を段階的に展開しつつ、それに関連するリスクを予測することができたはずである。大規模な不正利用および、回答における誤りや不正確さ、ならびにユーザーによるツールの誤解に関するリスクである。利害関係者は、以下を通じてアルゴリズムガバナンスを構築しなければならない。倫理規則および、これらのアルゴリズムを設計・利用するための実践であり、実効的かつ測定可能な形で適用できるよう、厳密かつ実践的な方法論を用いる必要がある。
アルゴリズムガバナンスとは何か（そして何ではないのか）
アルゴリズムガバナンスとは、特定のユースケース向けに設計されたAI技術に組み込まれたアルゴリズムの構築と利用に関するルールと実践を指す。それは単なる憲章や倫理原則の集合ではなく、当該アルゴリズムが適切に機能することを確保し、技術的な差別や法令違反などのあらゆる誤りを防止するために講じられるすべての措置に基づくものである。これは法律に類似しており、適用され、その遵守が常時評価されるためには、司法制度を伴わなければならない。
アルゴリズムガバナンスは、学際的であり、分野横断的な性格を持ち、社会学、社会学、政治学、および人類学などの複数の学問分野と関わらなければならない。エンドユーザーを含むプロジェクトの様々な利害関係者を結びつけ、技術およびアルゴリズム科学全般に対する理解度、ならびに当該アルゴリズムに関する権利、義務、責任を組み込まなければならない。
アルゴリズムガバナンスはまた、同時に二つのアプローチを可能にしなければならない。すなわち、運営委員会やプロジェクトマネージャーがベストプラクティスとその適用を注入・強制することを可能にする従来型のトップダウン・アプローチと、ボトムアップ・アプローチである。後者は、企業のすべての職員またはエンドユーザーが、プロジェクトの立ち上げと開発から導入に至るまで、プロジェクトの円滑な運営に対し、直接的（プロジェクトへの具体的かつ実践的な関与を通じて）または間接的（例えば、ユーザーフィードバックの収集を通じて）に貢献することを可能にするものである。
最後に、ガバナンスは、アルゴリズムの設計、調達、または利用に関わるプロジェクトのすべての利害関係者が理解できるほど透明性の高い方法で実施され、評価されなければならない。ここで強調すべきは、アルゴリズムがプログラムされているソースコードを無条件に透明化したとしても、それによってアルゴリズムガバナンスを免れることができるわけではないという点である。実際には、検討対象となるいかなる透明性も、ソースコード、使用されたすべてのデータセット、およびアルゴリズム学習に用いられた基準に関わるべきである。場合によっては、企業の知的財産を公開するだけになることで、イノベーションを阻害する可能性もある。ガバナンスにおける透明性は、無条件に義務付けられなければならない。
アルゴリズムガバナンスのモデル
倫理的な信頼できるAIに関する憲章を別にすれば、アルゴリズムガバナンスのモデルを策定または公表している利害関係者はわずかである。過去には、Googleの AI倫理委員会がそうであったように、いくつかの試みが失敗に終わっている。同委員会は2019年に廃止された。また、Microsoftが2017年に策定した最初のAI憲章も広く採用されなかった。さらに、データに関する研究や、AIにおける倫理の重要性に関する一般的な研究とは異なり、すぐに利用可能なアルゴリズムガバナンスモデルを提示する学術研究は限られている。
それにもかかわらず、立法に関する議論に先立って行動することは、これらの利害関係者にとって不可欠である。法律に先んじることには多くの利点がある。新技術の倫理的影響を予測し、高額な訴訟を防ぎ、レピュテーション上の落とし穴を回避し、ステークホルダーの信頼を高め、魅力を高めることで競合他社との差別化を図り、欧州の立法機関に対して積極的な役割を果たすことができる。
どのアルゴリズムガバナンスモデルを採用すべきか。
唯一のモデルが存在するわけではなく、業界、企業およびその目標、さらにはアルゴリズムプロジェクトの種類に応じて適応可能な、多数のモデルが存在する。とはいえ、自社のガバナンスの基盤を構築するためには、一般的な構造を用いるべきである。この構造には、アルゴリズムの設計または調達に関するプロジェクトのいくつかの段階が含まれるべきである。すなわち、解決すべきビジネス課題の定式化を含む構想段階から、エンドユーザーからのフィードバックを含む利用段階までである。
ビジネスおよび技術仕様の段階を含めるべきであり、これにはハードウェア製造のための原材料採掘に関連する環境問題や、アルゴリズムの学習および実行に必要なコンピューティング能力（したがってエネルギー消費）が含まれる。また、データ収集の段階も含まれなければならず、これにはサンプリングや代表性テストの実施、コンピュータープログラミングおよびアルゴリズム学習、アルゴリズムの検証と導入、さらに時に数百万人の個人によって利用された後に実施されるテストが含まれる。さらに、業務担当者やエンドユーザーを含むステークホルダーによる技術的理解のレベルの評価と向上も含めるべきである。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているか。
AI卓越性センターは、各分野のリーダーを結びつけ、人工知能の急速な進化と、それが経済や社会に及ぼす影響を理解する取り組みを行っている。AIの導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を支援している。
信頼できる場や協働的な取り組みを通じて、センターはパートナーが共通の理解を構築し、AIのイノベーションと利用に関する責任ある取り組みについて協力できるよう支援している。
ガバナンスのプロセスが進むにつれ、当該アルゴリズムに関連する科学的、技術的、倫理的、およびレピュテーション上のリスクを評価するため、リスクスコアを算出しなければならない。アルゴリズムガバナンスの基盤となる構造を策定する際には、プロジェクトに関して対処すべき疑問や論点を追加するため、憲章およびベストプラクティスの原則を作成すべきである。社内または外部の倫理委員会の存在は、ガバナンスのプロセスを円滑に進めるのに役立つ。
説明可能性の計算とは、アルゴリズムの動作ロジックを制御または抽出するために用いられる統計的手法であり、自動学習の前（すなわちデータセット上）、学習中、および学習後に体系的に適用されなければならない。これらの計算により、アルゴリズムの不透明性を低減し、その回答とそのばらつきを制御することが可能となり、誤り、バグ、または技術的差別の根本にあるアルゴリズムの偏りのリスクを大幅に低減する。こうした仕組みによって、最初の顔認識アルゴリズムが肌の色に関して偏りを持つことや、最初の顔認識アルゴリズム、あるいはApple CardアプリケーションにおけるGoldman-Sachsのアルゴリズムが、女性に男性より大幅に低い信用枠を与えることは、防げたはずである。
どこから始めるか。
企業は、正確なビジネスニーズの一つを満たすために、アルゴリズム技術を用いたユースケースを特定しなければならない。技術チームとビジネスチームは共同で、アルゴリズムガバナンスの各段階の形式を特定し、それぞれについて実施すべき質問、行動、テストを定義しなければならない。さらに、チームはアルゴリズムのリスクスコアの算出方法とガバナンスの成功指標を決定しなければならない。この初期ガバナンスは、そのユースケースに適用され、その後、拡張可能であることを確認するために他のいくつかのケースにも適用される。
最後に、反復的かつアジャイルな手法を用いて、チームは組織内で導入しつつ、企業のガバナンスを調整しなければならない。このようにして、企業は包摂的で、市民と環境を尊重するアルゴリズムを設計することになる。自社のガバナンスを公に伝達・共有することにより、アルゴリズムを規律する次の関連性のある持続可能な法律の起草に関する立法論議にも貢献することになる。
