AIは、私たちの働き方、ビジネスの進め方、イノベーション、消費、コミュニケーション、さらには社会的な交流の仕方までも変えつつあります。
しかし、AIが急速に普及していることで、信頼をめぐる根本的な懸念が生じており、この技術の普及を左右しかねません。
AIが責任を持って利用されるようにするうえで、規制、透明性、倫理的な枠組みが極めて重要です。
人工知能（AI）は、人間と技術の関係を再定義しつつあります。AIは、私たちが情報をどのように認識し、消費し、やり取りするかに影響を与えています。また、私たちの働き方、ビジネスの進め方、イノベーション、コミュニケーションのあり方を作り変えつつあります。その結果、AIは今後数十年にわたり、世界的な議論の最前線に居続けると考えられます。
しかし、AIの影響力が増すにつれ、この技術を左右しかねないより深刻な懸念も生じています。特に、「AIを信頼できるのか」という問題です。
2023年6月に発表されたCapgemini Research Instituteの調査によると、世界の消費者の73%は、生成AIが作成したコンテンツを信頼すると回答しています。また、財務計画については53%、医療診断や助言については67%、個人的な人間関係やライフキャリアの計画については66%が、生成AIを信頼すると回答しています。
さらに、サイバー攻撃やディープフェイクの可能性があるにもかかわらず、消費者のリスク認識は低い状況です。生成AIがフェイクニュースの作成に利用される可能性を懸念していない消費者は約半数（49%）に上り、フィッシング攻撃を懸念している消費者はわずか34%です。
一方で、組織の70%は現在、生成AIのイノベーションに関して「模索段階」にあります。controlledされたB2B環境でAIを導入することの機会と利点は明らかであり、AI搭載のインテリジェントな出荷・倉庫業務などはその例です。そのため、組織がこのような模索を行うのは妥当です。最近のIDCの調査によると、ビジネスリーダーは、AIへの投資1ドルあたり平均3.5ドルという驚異的な利益を実現しつつあります。
AIに対する消費者の信頼度は、励みになる面と懸念される面の両方があります。AIプラットフォームは、その出力が信頼できるものであって初めて潜在能力を発揮できるため、この点は励みになります。一方で、AI、特に生成AIは非倫理的な目的に悪用される可能性があり、データを漏えいさせることがあり、大量の炭素を排出し、「ハルシネーション」を起こして誤った結果を出すことも知られているため、懸念されます。
こうした懸念を踏まえると、大規模言語モデル（LLM）は因果関係について語ることはあっても、実際には因果的ではなく、モデルに投入されたテキストデータの量に基づく統計的な仕組みであることを念頭に置くことが重要です。データの質が正確性を左右し、その質が低ければ、LLMは事実と異なる情報を生成することがあります。また、許可なくデータが利用された場合には、評判の毀損や著作権侵害を招くおそれがあります。
AIは新しい技術ではありませんが、ChatGPTの登場により、2022年後半に同technologyの「iPhoneの瞬間」が訪れました。iPhoneと同様に、その背後にある技術は今後さらに向上していくでしょう。ただし、AIへの信頼は軽視したり当然視したりすることはできません。初期の採用者はリスクに対してより高い許容度を持つかもしれませんが、熱意は急速に冷めることがあります。責任あるAIへの信頼を維持し、構築するためには、政策立案者、イノベーター、企業が強力な管理手段を確立しなければなりません。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのでしょうか。
AI卓越性センターは、各セクターのリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解する取り組みを支援しています。AIの導入に関連する機会、リスク、トレードオフについて、情報に基づいた対話を支えています。
信頼できる場や協働的な取り組みを通じて、センターはパートナーが共通理解を築き、責任あるAIのイノベーションと利用のためのアプローチに協力して取り組めるよう支援しています。
AIの成功に向けた主要な基盤
AIの世界的な可能性は、高品質なデータの自由な流通に依存しています。しかし、プライバシー、政府によるアクセス、セキュリティ、有害コンテンツ、知的財産権などに関する各国のデータ政策の違いは、情報管理、データセキュリティの確保、消費者の権利保護、民主的価値の維持において、社会、消費者、政府にとって大きな課題となっています。
例えばデジタルヘルスでは、相互運用性とガバナンスの必要性がこの課題を象徴しています。予防から治療に至るまで患者の転帰を改善するため、信頼を高め、イノベーションを解き放つには、アクセスと強固なプライバシー対策のバランスを取ることが求められます。
要するに、データには価値があり、組織は自らのデータおよび顧客のデータを保護する責任を負っているということです。AIの管理されない利用により、すでに目にしているように、データが予期せず一般に公開される事態も起こりえます。
AIを取り巻く複雑さを踏まえ、欧州連合のAI法（2021年に提案され、つい最近承認されました）は、この技術の利用とリスクに関する大規模な公開議論の火付け役となりました。その具体的な技術的適用は今後数週間でなお進化する可能性がありますが、いずれにせよ、AIシステムをさまざまなリスクの種類に分類し、データソースの透明性を求めることで、AIの責任ある利用に向けた基礎を築くことができます。
あらゆる規制は実施に時間がかかりうるため、ビジネスや技術のパートナーは、生成AIの倫理的な問題や実際の誤用に関する懸念に対処するため、教育を提供し、安全策を徹底する上で重要な役割を担っています。
2019年、CapgeminiはAI倫理規範を公表しました。これは、組織を導き、AI技術が信頼できる枠組みの中で明確な利益をもたらす形で常に採用されるようにするためのものです。主要な原則は7つあります。
影響範囲を慎重に限定すること：人間の利益のために設計されたAIであり、どのソリューションが誰に対して何をもたらすかを明確に定めた目的を持つこと。AIの目的は、すべての利害関係者にとって明確でなければなりません。
持続可能であること：環境、そして人間と人間以外を含め、現在および将来のエコシステムのすべての構成要素の利益となるよう開発されたAIであり、CO2排出、健康の改善、持続可能な食料生産といった差し迫った課題に対処すること。AIシステム自体の炭素フットプリントは、AIモデルの学習と利用において、データ管理の効率化とAIガードレールによって最小化されること。
公正であること：多様なチームが健全なデータを用いて作成したAIであり、偏りのない結果と、すべての個人および人口集団の包摂を実現すること。アルゴリズムの偏りを継続的に検出するため、自動化ツールを利用すること。
透明性があり、説明可能であること：適切な場合には、結果を理解、追跡、監査できるAIであること。
明確な責任を伴い、管理可能であること：人間がより情報に基づいた選択を行えるようにし、最終的な判断権を保持させること。
堅牢かつ安全であること：必要に応じて代替計画を含め、常に人間が関与する体制を確保すること。
プライバシーとデータ保護を尊重すること：設計段階からデータのプライバシーとセキュリティを考慮し、安全で、プライバシー規制に法的に準拠したデータ利用を行うこと。
AIに関するこれらの原則は、責任があり人間中心のAI文化を築くことを目指しています。生成AIは、知的財産の喪失や誤情報といった新たなリスクをもたらすとともに、新たな課題も生み出しており、組織が倫理規範を徹底する必要性を改めて示しています。人間の倫理的価値は、AI技術の利用によって決して損なわれてはならず、すべての企業は責任あるAIによって信頼を築く根本的な責任を負っています。適切な規制がない中で、「様子見」のアプローチをとることは現実的ではありません。
これらすべての要素がどのように展開していくかは、時間が教えてくれるでしょう。明らかなのは、AI技術が今日の私たちの現実の一部であり、今後も私たちの生きる世界を形作り続けるということです。組織がAIの驚くべき潜在能力を引き出してイノベーションを加速させるためには、今こそ協力して必要な基盤を築き、この変革的な技術に対する持続的な信頼を育むときです。
