AIは学術界や研究所を離れ、現実の世界へと広がるにつれ、私たちの日常生活に急速に浸透しつつある。
AIの超知能が「暴走」して人類の存続を脅かすことは、私は懸念していない。それはSFの世界の話であり、今日の科学研究に裏付けられていない。しかし、この技術を使うことで意図せぬ結果が生じる可能性については、考える必要があると思う。
Salesforceで倫理的AIのプラクティスを担当するアーキテクト、キャシー・バクスターは、この問題を的確に説明した。AIには意識がなく、単なるツールであり、したがって道徳的に中立だと指摘したうえで、その用途は、私たち人間が開発に適用する基準によって決まると述べた。「AIには大きな善をもたらす可能性がある一方で、気づかないうちに個人に害を及ぼす可能性もあります。」
管理されないAIは、人間の偏見を映す鏡
AIが害をもたらす一つの要因は、組織が収集するデータセットに含まれる人間の偏見を、アルゴリズムが反映してしまうことだ。AI時代には、アルゴリズム自体がデータから「学習」し続けるため、こうした偏見の影響が積み重なる可能性がある。
たとえば、銀行がある人に融資すべきかどうかを予測したいとしよう。さらに、この銀行が過去に女性や特定のマイノリティーの人々に、ほかの人々ほど融資してこなかったとする。
こうした傾向はその銀行のデータセットに表れる。そのためAIアルゴリズムは、女性やマイノリティーの人々は信用リスクが高く、融資すべきではないという結論を導きやすくなる可能性がある。
言い換えれば、過去に特定の人々への融資データが少なかったことが、将来、銀行のAIプログラムがその人々の融資申請をどう扱うかに影響する可能性がある。システムが偏見を取り込み、増幅することも、少なくともそれを温存することもあり得る。
もちろん、明示的な偏見によってAIアルゴリズムが悪用されることもある。たとえば、融資審査の対象から有色人種の女性を除外するよう、誰かがAIシステムのデータを選別する場合だ。
いずれにせよ、AIの性能は与えるデータ、なかでも「学習データ」の質に左右される。だからこそ、AIプログラムの学習に関わる人は誰でも、使用する学習データが実際にどれほど多様な人々を代表しているかを検討することが極めて重要だ。
キャシーの言葉を借りれば、インターネットからデータをただ拾い集めてAIプログラムを学習させると、「すでに存在するステレオタイプや偏見、誤情報を増幅してしまう」可能性が高い。
多様性を取り入れ、偏見を取り除く
偏りのあるAIの脅威に、どう対処すればよいのだろうか。まず人間が積極的に偏見を特定し、管理することから始まる。AIシステムに偏見を特定する方法を学習させることも、その一環だ。
AIの偏見は、技術に欠陥があるために生じるのではない。アルゴリズムが自ら偏見を持つようになるのではなく、私たちからそれを学ぶ。だから、私たちが作り出したAIシステムから生じる悪影響を防ぐため、責任を引き受けなければならない。たとえば銀行は、融資申請者の適格性を評価するAIシステムを構築する際、データセットから性別や人種の情報を除外できる。
同時に企業は、隠れた偏見にも注意する必要がある。想像上の銀行がAIモデルから性別と人種を取り除いた一方、米国では人種の代理指標となることが多い郵便番号を残したとしよう。そうした措置を取っても、銀行のアルゴリズムが、歴史的に不利な立場に置かれてきた地域を差別する偏った予測を生み出す可能性がある。
AIシステムが偏見によって推奨内容を少しでも左右されることを防ぐには、技術だけでなく、人間の理解に頼る必要がある。
その中核となるのは、AIシステムを構築する人々が多様な視点を反映していることを確かめることだ。同質的な集団では、自分たちと同じ意見ばかりが聞かれるかもしれない。つまり、知っている範囲にとどまり、偏見が潜んでいる場所に気づきにくくなる。
こうした指針があれば、組織は学習データから偏見を取り除き、悪影響を抑えることができる。また、AIシステムの透明性を高め、解釈しやすくすることにもつながり、企業が発生しうる誤りを確認しやすくなる。
倫理的なAIを次の段階へ
明るい兆しとして、偏見への取り組みが、AI倫理をめぐるより広範な世界的議論と並行して進んでいる。そうした議論を主導している団体の一つが、AIパートナーシップだ。Salesforceを含む、さまざまな分野のテクノロジーと教育のリーダーで構成されるコンソーシアムである。
これらの団体は、AI技術の責任ある利用と開発に取り組むため、連携している。AIへの理解を深め、ベストプラクティスを確立し、人類が直面する最も困難な課題の解決にAIを役立てることを通じて、その実現を目指している。
こうした議論をより広い場に広げることが重要なのは、AIの責任ある利用に関わる取り組みを、単なる一連の作業と捉えるべきではないからだ。人々の考え方や行動を根本から変える必要があり、それを今すぐ実行しなければならない。
言い換えれば、AIが人類を映す鏡だとすれば、今、責任を負い、そこに映し出される姿が私たちの最良の姿となるようにするのは、私たち自身だ。
