AIアルゴリズムは、人々の暮らしや社会全体に多大な影響を及ぼします。
AIをめぐる倫理的ジレンマには、デジタル格差やAIの兵器化が含まれます。
自律性と人間による監督のバランスを取り、差別への対処にAIを活用できるよう、その責任ある利用を推進する必要があります。
コンピューターの進歩、データサイエンス、膨大なデータセットの利用可能性に後押しされ、人工知能（AI）は日常的な現実となり、ビジネスツールとしても普及しています。大手テクノロジー企業のGoogle、Amazon、Metaは、現在AIを活用したシステムを開発しています。この技術は、人間の会話を模倣し、がんを検出し、犯罪行為を予測し、法律文書を作成し、アクセシビリティの課題を解決するほか、人間より優れたタスク遂行も可能です。企業にとってAIは、事業の成果を予測し、プロセスを改善し、大幅なコスト削減を通じて効率性を高める可能性を秘めています。
それでもなお、AIに対する懸念は高まっています。
AIアルゴリズムは非常に強力になっており、一部の専門家はAIに意識があると評するほどです。そのため、改ざん、操作、偏り、差別のいずれも、組織、人々の暮らし、社会に甚大な影響を及ぼしかねません。
AIアルゴリズムとデジタル差別
AIによる判断は、ますます大規模に人々の暮らしに影響を与えています。無責任な利用は、人間に既存の偏見や、人種プロファイリング、行動予測、性的指向の特定といった差別的な措置を助長しかねません。こうした内在する偏見が生じるのは、AIの性能が、提供できる学習データの量と質に左右され、そのデータが人間の偏見の影響を受ける可能性があるためです。
機械学習アルゴリズムの学習やテストに使うデータで、女性、有色人種、特定の年齢層などの集団が十分に代表されていない場合にも、偏りが生じることがあります。例えば、研究によると、有色人種は顔認識技術におけるアルゴリズムの偏りの影響を特に受けやすいことが示されています。
利用のされ方によっても偏りが生じることがあります。例えば、特定の用途向けに設計されたAIアルゴリズムが、想定外の目的に使われると、出力が誤って解釈されるおそれがあります。
AIのアルゴリズムの性能を検証する
AIによる差別は抽象的で直感に反し、微妙かつ目に見えにくいため、検出が困難な場合があります。ソースコードが一般に公開されていない可能性があり、監査担当者がアルゴリズムの導入方法を把握していないこともあります。AIアルゴリズムの内部を調べて、その記述方法を理解し、対応することの複雑さを過小評価してはなりません。
現行のプライバシー法は通知と選択に依拠しています。そのため、消費者に長文のプライバシーポリシーへの同意を求める通知が大量に送られても、ほとんど読まれていません。こうした通知の仕組みをAIに適用すれば、消費者と社会のセキュリティやプライバシーに深刻な影響が及ぶでしょう。
兵器としてのAI
真にAIを駆使したマルウェアはまだ存在しないかもしれませんが、人工知能を備えたマルウェアが攻撃者の能力を高めると考えるのは、決して突飛なことではありません。可能性は無限です。環境から学習して新たな脆弱性を特定し悪用するマルウェア、AIベースのセキュリティに対して試験を行うツール、誤った情報をAIに仕込むマルウェアなどが考えられます。
AIによって改変されたデジタルコンテンツはすでに、個人の超写実的な合成コピーをリアルタイムで作成するために使われています（ディープフェイクとも呼ばれます）。その結果、攻撃者はディープフェイクを利用して、標的を絞ったソーシャルエンジニアリング攻撃を仕掛け、金銭的損害を与え、世論を操作し、競争上の優位性を得るようになるでしょう。
AIによる差別は抽象的で直感に反し、微妙かつ目に見えにくいため、検出が困難な場合があります。ソースコードが一般に公開されていない可能性があり、監査担当者がAIアルゴリズムの導入方法を把握していないこともあります。
スティーブ・ダービン、情報セキュリティ・フォーラム最高責任者
AIアルゴリズム関連のリスクを軽減する
AIによる判断がますます大規模に人々の暮らしに影響を与えているため、企業にはAIの導入を倫理的に管理する道徳的、社会的、受託者としての責任があります。そのために、企業はいくつかの方法を取ることができます。
1. 倫理を指標に落とし込む
倫理的なAIは、個人の権利、プライバシー、差別の禁止、そして特に操作の禁止といった、明確に定められた倫理指針や基本的価値観に従います。組織は、AIに起因するリスクを特定、測定、評価、軽減するための明確な原則を確立しなければなりません。次に、それらを実用的で測定可能な指標に落とし込み、日常のプロセスに組み込む必要があります。
2. AIアルゴリズムにおける偏りの原因を理解する
倫理的なAIの開発には、偏りの原因を調べる適切なツールを備え、意思決定の公平性がもたらす影響を理解することが極めて重要です。機械学習を使うシステムを特定し、事業にとっての重要度を判断したうえで、AIが引き起こす偏りに対するプロセス、管理策、対抗措置を導入します。
3. 自律性と人間による監督のバランスを取る
組織は、社内およびサプライチェーン内のAIシステムがもたらすリスクの継続的な管理と監視を担う、分野横断型の倫理委員会を設置すべきです。幅広い倫理的課題の全体に配慮できるよう、委員会は多様な背景を持つ人々で構成しなければなりません。
アルゴリズムは、専門家の知見、状況に関する知識、過去の偏見への認識を踏まえて設計しなければなりません。悪意ある攻撃者による侵害を防ぐため、例えば金融取引などの重要な領域では、人間による承認手続きを必須とする必要があります。
4. 従業員を力づけ、責任あるAIを推進する
イノベーションを妨げることなく、AIシステムへの懸念を誰もが提起できる文化を育みます。役割、期待、説明責任を透明にすることで、AIに対する社内の信頼と確信を築きます。新たな役割の必要性を認識し、積極的にスキル向上や再訓練を図るか、人材を採用します。
必要に応じてより良い管理手段と救済を求める機会を提供すれば、ユーザーを力づけることができます。強いリーダーシップも、従業員を力づけ、責任あるAIを事業上の必須課題として推進するうえで極めて重要です。
5. AIを活用して差別に対処する
手続き上のチェックは、人間による公平性評価の従来の手法です。人間の意思決定プロセスと並行してアルゴリズムを実行し、結果を比較し、機械による判断の理由を説明することで、AIを活用できます。その一例が、社会のさまざまな分野で人種間の平等を実現するため、計算ツールの開発と活用に取り組むMITの研究イニシアチブ「組織的な人種差別への対抗」です。
まとめると、AIモデルは設計段階から信頼性、公平性、説明可能性を備えていなければなりません。AIの民主化が進み、新たなガバナンスモデルが形づくられるにつれ、AIを活用したイノベーションがさらに生まれることが見込まれます。
