AIを利益のために活用することを急ぐあまり、企業はこの技術がもたらす潜在的な悪影響を軽視すべきではない。
誤情報、プライバシー、偏りは、いずれも注意を要する分野である。
技術の進歩は地球規模の課題に立ち向かうための鍵であり、そのためには革新と歯止めが必要である。
生成AIの導入が社会のあらゆる分野で急速に広がるなか、あらゆる種類の企業がより迅速で、より創造的で、より賢明になる準備を整えつつある。こうした変化はあらゆる場面で見られる。カジノはAIを使い、顧客のギャンブル習慣をより正確に予測して、抗いがたい販促で誘引している。AIは製品デザイナーがより優れた効率的な素材を選ぶ際の指針となっている。多くの企業は、スキャンした請求書に基づいて支払いを予測するためにこの技術を使い始めてもいる。ゴールドマン・サックスによれば、AIの広範な利用は、今後10年間にわたって生産性を年率1.5%押し上げる可能性がある。10年間。
しかし、この急速な拡大には慎重さも伴うべきである。企業は利益のためだけにAIの導入を拡大することのないよう注意しなければならない。企業は、これまでに登場した多くの急速に台頭した技術と同様に、AIを制限なく利用すれば危険な結果を招きかねないと認識しなければならない。生成AIは、偽情報の拡散を加速させ、10代のソーシャルメディア依存を悪化させ、既存の社会的偏見を永続させる可能性を持っている。こうした結果は社会全体にとって有害であるだけでなく、顧客の信頼を得るために絶えず努力している企業にとっても不利益である。失敗すれば、取り返しのつかない評判リスクを負いかねない。企業が急速に変化するAIの環境に適応しようとするなか、この画期的な技術をどのように倫理的に活用できるだろうか。
1. データプライバシーを優先する
まず、企業は、自社、取引先、顧客のデータの保護を最優先しなければならない。そのためには、パブリック大規模言語モデル（LLM）を利用することのリスクを理解する必要がある。LLMは生成AIの基盤である。大量のデータを取り込み、予測を行い、コンテンツを生成するアルゴリズムである。パブリックLLMは、一般的で公開されているデータセットからデータを収集し、それを誰でも利用できるようにする。適切に指示されれば、学習過程で使われた機密データを明らかにしたり漏えいさせたりする可能性があり、また偏りを持ち込むこともある。LLMにはデータを削除するボタンがないため、データを「学習解除」することができず、漏えいに関するリスクは恒久的なものとなる。金融機関のように規制の厳しい業界は、パブリックLLMの利用によるリスクに特に留意すべきである。銀行口座番号や取引の詳細などの金融情報が公開されるような漏えいは、顧客の身元盗用、さらには詐欺につながりかねず、銀行にとっては多額の法的費用が発生することは言うまでもない。学習解除する
このリスクを軽減するため、企業はプライベートLLMを利用できる。プライベートLLMは、企業固有の非公開のデータコーパスで学習され、権限を与えられた関係者のみがアクセスできる。プライベートLLMを用いれば、企業はデータを第三者に送るリスクを負うことなく、生成AIの恩恵を享受できる。例えば、顧客自身のデータに基づいて開発されたチャットボットを通じて活用することも可能である。また、これらのLLMは特定の情報で学習され、更新サイクルをより管理しやすいため、「幻覚を起こす」可能性や、「無関係で、無意味、または事実に反する」回答を提供する可能性は低くなる。
2. AIの偏りを緩和する
AIの中核にあるのはデータである。データがなければAIは役に立たないが、誤ったデータを用いれば、この技術は危険にもなり得る。ChatGPTのような一般的な生成AIシステムは、大規模で公開されているデータソースに依存しており、その中には歴史的・社会的な偏りを反映したものもある。こうしたデータセットに依拠するAIシステムは、結果としてそれらの偏りを再現してしまう。前述の銀行の例を考えてみよう。差別的な慣行によって生み出された過去のデータ（例えば、1930年代のシカゴにおけるレッドライニング）で学習されたアルゴリズムは、銀行が疎外されたコミュニティへの融資を拒否することにつながりかねない。保険会社も、結果として保険料を高く設定したり、信用情報機関が信用スコアを誤って伝えたりする可能性がある。
AIの偏りに対処する最善の方法は、LLMの学習過程に人間を組み込むことである。この人間とAIの関係は二面性を持ち得る。人間はAIシステムを監視し、その性能を高めるための入力、フィードバック、修正を提供できる。一方で、学習済みのAIは、人間が自らの行動における偏りを検知する手助けにも使える。例えば、人間がAIに適切なデータを与え、修正を通じて偏りを段階的に取り除くように教えることで、AIは採用担当者に対し、企業の採用決定に潜在する差別的な慣行を警告するよう学習させることができる。
世界経済フォーラムは、人工知能のための歯止めをどのように構築しているか。
AI卓越性センターは、各セクターのリーダーを結びつけ、急速に進化する人工知能と、それが経済や社会に及ぼす影響を理解することを支援している。AIの導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支えている。
信頼できる場と協働イニシアチブを通じて、センターはパートナーが共通の理解を構築し、責任あるAIのイノベーションと活用のアプローチに向けて協働することを可能にしている。
3. 透明性のための枠組みを導入する
企業は、データ保護、サイバーセキュリティ、コーポレートガバナンスに関する法律を含め、規制の枠組みに適合する形でAIを利用しなければならない。しかし、まだ設計されていない監督の仕組みに、企業はどのように適合できるのだろうか。その答えは透明性にある。透明性は信頼を生み出し、AIが私たちの生活を操作したり、さらには支配したりするかもしれないという不安を克服するための鍵である。EUのAIに関するハイレベル専門家グループ（AI HLEG）は、企業が指針として活用できる、信頼できるAIのための「評価リスト」を策定した。評価リストにより、次の3つの原則に基づいている。
トレーサビリティ： AIシステムを開発したプロセスは、正確かつ適切に文書化されているか。例えば、AIシステムが判断を下すためにどのデータを使用したかを遡って追跡できるか。
説明可能性： AIシステムの解決策や判断の根拠は説明できるか。さらに重要なのは、人間がAIシステムの下した判断を理解できるかどうかである。
コミュニケーション： システムの可能性と限界はユーザーに伝えられているか。例えば、相手が人間ではなくAIボットであることをユーザーに伝えるべきか。
AIは、これまでに開発された中で最も有望な技術ツールの一つである。それは、利益や生産性を高めることができるからではなく（もちろんそれも確実にできるが）、私たちがより良い人間になるための大きな可能性を持っているからである。民間部門の人間を含め、AIの開発の舵を握っているのは人間であるという事実を、決して忘れてはならない。AIを責任をもって開発することは私たちの責務であり、それは社会にとって善く、企業にとっても善いことである。
