業界全体として、組織はAIのリスクを著しく過小評価しています。
AIの導入が不適切だと、既存の職場の不平等を再生産しかねません。
本稿では、企業が生成AIの倫理的な導入をどのように確保できるかを検討します。
ChatGPTや生成人工知能（AI）をめぐる最近の過熱した話題を受け、多くの人々が、この技術の急速に高度化する可能性を活用したいと熱望しています。
しかしながら、Baker McKenzieの2022年北米AI調査の結果は、ビジネスリーダーが現時点で自社組織のAI関連リスクを過小評価している可能性があることを示しています。 4% のC-スイート（経営幹部）レベルの回答者のみが、AIの利用に伴うリスクを「重大」だと考えていると回答し、 取締役会レベルでAIの専門知識を有していると回答したのは半数未満でした。
これらの数字は、懸念すべき現実を浮き彫りにしています。多くの組織はAIへの備えが不十分であり、リスクを管理するための適切な監督や、主要な意思決定者による専門知識を欠いています。そして、これに対処しなければ、この技術の倫理的かつ効果的な導入に関する組織の死角が、変革的な機会を覆い隠し、技術の爆発的な成長に組織が取り残される可能性が高くなります。
生成AIはリスクの状況をどのように変えているのでしょうか？
近年、AI関連の進歩と導入は指数関数的なペースで進んでおり、一部では速すぎると主張する声もあります。
この指数関数的な成長によりAIの利用に改めて注目が集まっていますが、実際には、学者、科学者、政策立案者、法律の専門家などが、かなり前から、AIの倫理的かつ合法的な利用と導入を訴えてきました。特に職場において（例：人材採用、事務作業、従業員研修）、人事機能におけるAIの既存の活用事例は豊富にあります。
当社の調査によると、75%の企業がすでに採用および人事業務にAIツールや技術を利用しています。
生成AIのこの新たな段階においては、ガバナンス、説明責任、透明性といったAI導入に関する中核的な原則がこれまで以上に重要であり、不適切に導入されたAIがもたらす影響への懸念も同様に重要です。
例えば、管理されていないアルゴリズムは、偏った差別的な結果を生み出し、不平等を助長し、労働力の多様性の進展を妨げる可能性があります。データのプライバシーと漏えいも別の懸念事項であり、従業員データの非匿名化や収集を通じて容易に発生しかねません。
生成AIは、サードパーティ製プログラムからの入力と出力の両方の所有権に関する疑問や、その後の著作権侵害への懸念を生じさせるなど、新たな知的財産に関する検討事項ももたらしています。
全般的に、政府や規制当局が、AI関連の法律や規制の執行の仕組みを急いで整備している状況が見受けられます。米国では、新たに制定される法律の主要な焦点は、採用や人事関連業務におけるAIの利用事例になると見られています。
集団訴訟を含む訴訟も視野に入っています。すでに米国では、生成AIの知的財産に関する訴訟の第一波が起きており、これらの初期の裁判所の判断は、既存の規制がない中で法的環境を形作りつつあります。
生成AIを導入する組織は、AIツールや照会に入力されたデータが、技術のサードパーティ提供者によって収集されるものと想定すべきです。場合によっては、これらの提供者が、こうした入力を利用及び/又は開示する権利を有することもあります。
従業員に生成AIツールを提供しようとする雇用主は、機密データや企業秘密をリスクにさらしているのでしょうか？結論から言えば、そのとおりです。総じて、新たな展開のたびに、組織、規制当局、裁判所がそれに答えるよりも速いペースで新たな疑問が生じているように見えます。
組織はどのようにAIへの備えを強化できるでしょうか？
生成AIはパラダイムを変えつつあり、特定の利用事例をめぐるリスクは今後も生じ続けるでしょう。先を行くためには、組織は現在の取り組みを部門ごとの対応を超えて進め、個別の機能を強固なガバナンスの枠組みのもとで統合する必要があります。
多くの組織はAI施策の推進をデータサイエンティストに頼っていますが、法務、C-スイート、取締役会、プライバシー、コンプライアンス、人事を含む関係するすべてのステークホルダーが、意思決定プロセス全体を通じて関与する必要があります。
この代表性のギャップは、当社の調査結果で明らかになりました。現在、 AIツールの意思決定プロセスに人事部門を関与させていると回答したのは54%の回答者のみで、最高AI責任者（CAIO）を置いていると回答したのは36%の回答者のみでした。
このような高リスクの環境において、CAIOは、C-スイートレベルで適切なガバナンスと監督が整備されるようにし、人事部門を研修に関与させ、部門横断的なAIチームを育成する上で、極めて重要な役割を果たすでしょう。
これと並行して、組織は、ユースケース全体にわたる企業リスクを考慮し、問題が特定された際に企業が効率的に適切なコンプライアンス調整を行えるような、内部ガバナンスの枠組みを準備し、それに従うべきです。
AIガバナンス体制を持たず、主要なステークホルダーによる監督が欠如している企業、あるいはサードパーティツールに全面的に依存している企業にとってのリスクは、組織の法的責任（例：差別に関する請求）を生じさせるような形でAIツールを利用することです。
AIに基づくものであれ、そうでないものであれ、ほぼすべての意思決定は偏りを生じさせます。こうしたツールを利用する企業は、偏りを評価するアプローチと、違法な偏りを検証し回避する仕組みを特定するとともに、関連するデータプライバシー要件が満たされるようにする枠組みを構築しなければなりません。
偏りへの対策は、導入前および導入後のテストに関する効果的な措置によって、さらに支援されるべきです。
AIを導入する企業は、利用されるデータセット、アルゴリズムの機能、技術的な制約について明確な理解を得られるような仕組みを確実に整えておく必要があります。提案されている法律には、報告義務が含まれる可能性が高いためです。
AIの最終的な展望
結論は単純です。AIは広く急速に採用されており、多くの利点をもたらします。しかし、その展開と開発があまりに急速であるため、責任ある利用とリスク低減のためには、戦略的な監督とガバナンスがいっそう重要になっています。
多くの組織は、AIへの備えが不十分であり、リスクを過小評価しているうえ、適切なガードレールを設けないままこの技術を導入しようとする姿勢は懸念されます。
幸いなことに、強固なガバナンスと監督の仕組みを確立することで、組織は、AIへの取り組みのどの段階にあるかにかかわらず、こうした技術の波に耐えることができます。
さらに、AI関連リスクを管理するための長期的な解決策は、この技術がもたらす機会とリスクの両方を認める法律、行動規範、ガイダンスの枠組みを推進するために、法務、規制、民間セクターに関わる見識あるステークホルダーが協力することにかかっています。
安全な枠組みが整えば、組織はAI技術を導入し、その利点をより自信を持って活用できるようになります。
