人工知能は私たちが日常的に利用する多くのアプリケーションを支えてきましたが、この技術は今や、より高度な新たな段階に入りつつあります。
そうした中、AIが安全かつ公平な形で発展するよう、新たなガードレールが必要とされています。
これを実現する最善の方法は、人間の偏見がこの技術に入り込むことを抑制することですが、そのためには多大な取り組みと投資が必要になります。
何らかの形の人工知能（AI）は、私たちが日々利用する多くのアプリケーションを支えてきました。
いくつかの例を挙げると、AIは舞台裏で音楽やショッピングのおすすめを提示したり、テキストメッセージの作成を支援したりしてきました。今や私たちは、AIがより高度で進化した次の段階に入りつつあり、自由形式の応答を生成する能力によって、表舞台に立つようになっています。
概して、技術は私たちの生活をより良いものへと変革させてきました。しかし、一部のイノベーションには、個人、コミュニティ、社会へのリスクや害を軽減するためのガードレールやベストプラクティスが必要です。それでも、意図しない結果が生じることがあります。AIも例外ではありません。
私たちは従来のAIや機械学習（ML）サービスに向けた責任あるAIソリューションの開発と研究を続けてきましたが、生成AIという新たな時代は独自の課題をもたらしています。また、生成AIの進化が非常に速いため、リスクを最小限に抑えるための意図的かつ積極的な措置を講じない限り、リスクや意図しない結果が生じる可能性がより大きくなっています。
重要な一歩は、生成AIにおける公平性を促進することです。その方法の一つは、利用されるデータ、アルゴリズム、そして設計・開発・導入に関わる人々に見られる偏りに対処することです。
AIの偏りを軽減するうえで技術的な解決策は不可欠ですが、私たちはこの問題を全体的に捉え、人とプロセスを含むアプローチにも投資する必要があります。
多様な声を取り入れずに、責任あるAIを構築することはできません
結局のところ、責任あるAIの担い手となるのは人です。だからこそ、優先事項の一つは包摂性です。つまり、AI製品の影響を受ける、またはAI製品を利用する可能性のあるすべての利害関係者や消費者の視点、声、特性を意図的に考慮することです。
理想的には、多様な視点を製品のライフサイクルの初期段階から組み込むべきです。しかし、テクノロジー、AI、データサイエンスにおける多様性は依然として課題です。女性が占めるのは、データおよびAI関連職の26%にすぎず、労働力全体では、データサイエンティストのうち、黒人またはアフリカ系アメリカ人は4.2%、ヒスパニックまたはラテン系は6.9%にすぎません。そのため、エンドユーザーを中心に据えて包摂性を取り入れる別の方法を採用する必要があります。
その独創的な方法の一つは、企業の従業員リソース・グループを、製品ライフサイクルの様々な段階で活用することです。これらのグループのメンバーは、自分たちの視点を共有することに前向きなことが多く、それが製品の動作に良い影響を与え、最終的には自らのコミュニティや顧客の利益になることを理解しています。
同時に、早い段階から人材パイプラインを構築することで、この分野における多様性を高め、それに投資する必要があります。そのため、AI教育を民主化し、十分に代表されていない集団がそれにアクセスできるようにすることが何より重要です。例えば、AWSは、AIとMLの奨学金制度や、歴史的黒人大学（HBCU）、少数民族対象校（MSI）、コミュニティカレッジ向けの無料のAI教育カリキュラムなどのプログラムを提供しています。
最後に、人間は誰しも潜在的な偏見を抱えており、それがモデルの設計や意思決定プロセス、データ収集、特徴量エンジニアリング、評価、テストにどのように影響するかを理解することが重要です。研修は、開発者、データサイエンティスト、その他の利害関係者の間で、AIシステムにおける偏見の存在とその影響についての認識を高め、それを減らすための手段を身につけさせることを目的として設計されるべきです。
計画を怠ることは、失敗を計画することである
このプロセスの重点分野は、生成AIシステムを導入する際に偏りなどの問題が生じた場合に、企業がそれらを事前に把握し、検証し、対応できるようにするための包括的な組織計画が必要であることです。
計画の一環として、企業は次のような問いに答える必要があります。主要な顧客のペルソナと、最も影響を受ける人々は誰か。当社のデータはそれらの利害関係者を代表しているか。潜在的なリスクや脅威は何か。ロールバックと復旧の選択肢は何か。どのようなフィードバックループを採用するか。コミュニケーション計画はどうなっているか。
人、プロセス、そしてリスクを効果的に予見・管理する技術的ソリューションを備えたAI運用モデルを導入することで、企業は予期しないリスクや結果の発生確率と影響を低減し、レジリエンスと改善への取り組みを示し、評判を管理することができ、その結果、顧客の信頼向上につながります。
不確実性は、より大きな投資を求めている
生成AIはまだ進化の途上にあり、その基盤となるモデルの一部は非常に複雑であるため、生成されるコンテンツがどのように生み出されるのかについて、私たちはまだ多くのことを理解していません。そのため、偏りを完全に解消できる時期はいつになるのか（そもそも可能かどうか）は不明確です。しかし明らかなのは、企業や組織が事業や産業を変革するために生成AIを試行する動きが拡大する中で、この分野への投資を拡大する必要があるということです。上記で述べた人中心・プロセス中心のアイデアに加えて、このテクノロジーを先導する企業を超えて、立法者、研究者、専門家による継続的な協力、研究、関与も必要です。
不確実性が恐ろしく感じられることは確かですが、恐れによって身動きが取れなくなってはなりません。むしろ、そのことによって、生成AIへの理解を深め、必要なガードレールの策定を推進し、責任あるAIのベストプラクティスを意図的に採用するという、新たな切迫感を持つべきです。
私は、この新興技術を善のために活用できると心から信じています。実際、AIと機械学習は、飢餓や貧困といった世界で最も切迫した問題の解決に役立ってきました。例えば、国際稲研究所（IRRI）は、高度な機械学習手法を用いてゲノムデータの迅速な理解を可能にし、その成果として、気候変動により強い稲を開発できるようになっています。しかし、生成AIを善のために活用するということは、私たちが傍観者であり続けることはできないということです。どのような職種や産業に携わっているかにかかわらず、私たち全員が責任あるAIの取り組みにおいて役割を果たす必要があります。
