規制監督の相対的な曖昧さにより、人工知能が社会のニーズを直接反映できずにいます。
公平性、倫理、説明責任、透明性をAI開発の中心に据える組織がある一方で、「壊れるまで作り続ける」組織もあります。
AI開発において、人、プロセス、テクノロジーはどのようにすれば、責任ある倫理的な文化の醸成に最も貢献できるのでしょうか。
AIは社会に大きな可能性をもたらす一方で、その進歩のスピードは、企業や政府がその結果を適切に監視し、評価する能力をはるかに超えてしまっています。世界的な規制監督の相対的な曖昧さにより、AIが社会のニーズを直接反映できずにいます。組織は、すべてのステークホルダーに対して信頼性を実現し、示すための措置を講じるとともに、自社のAIの評判を築くことが重要です。
AIへの信頼は、特定の組織がAIを責任をもって利用していることを、ステークホルダーが理解することから始まります。外部のステークホルダーが個々のAIシステムを「信頼できる」または「信頼できない」と判断することは、ほとんどありません。むしろ、組織全体が信頼できるかどうかが判断され、AIシステムは組織の評判を引き継ぎます。組織の人間のスタッフが組織の価値観を体現するのと同様に、AIシステムの振る舞いは、組織の評判の現れであるとともに、それに影響を与えるものでもあります。
スタッフの研修は、多くの組織にとって馴染みのある課題ですが、倫理的で信頼できるAIを導入する際の課題は、新しく、異なるものです。ただし、それらは十分に文書化されており、調査対象企業の90%超が何らかの倫理的問題を報告しています。組織はどうすればより良い対応ができるのでしょうか。
現在の曖昧な規制環境において、AIシステムの複雑さは、組織にAI開発を支える新たな手段を模索させています。高度な技術企業の多くは、少なくとも、公平性、倫理、説明責任、透明性（FEAT）の原則をAI開発の中心に据えていることを示しています。また、170を超える組織がAIおよびデータに関する原則を公表しています。しかし、多くの組織は「何かが壊れるまで作り続ける」傾向があり、その破綻によって影響を受ける人々を考慮しないことがよくあります。
私たちは、人、プロセス、テクノロジーを活用してこれらのギャップを埋めることで、責任ある技術利用に向けた確かな前進が可能だと考えています。その方法は次のとおりです。
1. 人
マネージャーから経営幹部、取締役会に至るまでの組織のリーダーは、AIの開発と導入の過程で行われる前提や意思決定について、十分に理解していないことがよくあります。リーダーがAIをどの程度理解しているかにかかわらず、彼らは（肯定的・否定的の両方を含む）評判面および財務面の結果に対して責任を負います。一方でデータサイエンティストは、開発プロセスにおいて、すべてのガイドライン、規制、組織の原則を考慮することが難しいと感じることがあります。
どちらの場合も、課題は一般的に、責任ある取り組みとは何かについての理解の欠如ではありません。課題は、組織のさまざまな階層において何が重要な要因であり、それが成果にどのように影響するかについての洞察が不足していることです。異なるグループをまとめるための方法（プロセスおよびツール）を見つけることは、非常に効果的になり得ます。
2. プロセス
ステークホルダーは、AIが明白に公平であり、倫理的であることを目指し、説明責任を負い、可能な限り透明性と開放性を備えていることを期待しています。外部のステークホルダーの信頼を最大限に高めるためには、責任あるテクノロジーのすべての開発において、体系的かつ可視化されたプロセスを用いる必要があります。
責任あるテクノロジーの開発に関するガイドラインは豊富で多様です。どれを採用すべきかを判断することは難しい場合があります。組織は一つを選び、それを活用しなければなりません。ニーズの80%に合致するフレームワークを持ち、体系的に進める方が、フレームワークを持たないよりも望ましいのです。
責任あるテクノロジーの開発にフレームワークを用いる際には、ステークホルダーと共有できる何らかの成果物（文書またはレポート）が必要です。そうすることで、プロセスは体系的かつ可視化されたものになります。これらの成果物は、プロセスが実施され、遵守されたことの証明として機能するとともに、反復と フィードバックを導く仕組みとしても機能します。
3. ツールとテクノロジー
これらのプロセスをAIの開発と展開に効率的かつ効果的に組み込むことができるツールを開発し、採用しなければなりません。こうしたツールは、ガイダンスフレームワークの活用を促進し、バイアスなどの潜在的な問題を評価する分析を迅速化するとともに、社内外のステークホルダーにとって有用な成果物を生成する必要があります。
AI開発者は、自らの取り組みを評価するための客観的なツールを必要としており、組織のステークホルダーがフィードバックを提供できるようにする必要があります。組織のリーダーは、AIの全体的なリスクや投資収益率（ROI）などの財務指標について、標準化された評価を必要としています。さらに、AIシステムがどのように意思決定を行うかを説明するツールは、経営幹部や取締役会がより適切な監督を行い、リスクや財務への影響を理解することを可能にします。これらのツールは、データサイエンティストと組織のリーダーの双方に利益をもたらす標準化された構造と成果物を提供し、創造に必要な要件と倫理的な成果に必要な要件との間の乖離を克服する助けとなります。
組織のAIへの信頼を実現するためには、人、プロセス、ツールが、社内のステークホルダーが責任あるテクノロジーを構築できるようにする必要があります。これらの具体的な措置がなければ、「壊れるまで作り続ける」という考え方は、組織を揺るがしかねない信頼の喪失を引き起こす可能性が高くなります。倫理的で透明性のあるプロセスを強化し、同僚や管理職が互いに説明責任を果たし、望ましい行動を相互に支え合うことこそが、倫理的な人々が責任あるAI開発のための倫理的な文化を育む方法です。
