人工知能（AI）分野は近年、大きな成長を遂げています。
AIの活用を目指す企業は、主要な社会的懸念を乗り越えなければなりません。
主要な予測は、責任あるAIの成長から価値を得る方法を示しています。
今後1年を見据えて確実に言えることが一つあるとすれば、市場環境から地政学的な不安定化まであらゆる不確実性に備えている組織こそが、顧客、従業員、株主に最も適切にサービスを提供できる組織になる、ということです。
人工知能（AI）分野は過去5年間で目覚ましい成長を遂げました。新しいデータが入ってくるたびに、変化する環境へ迅速に対応するためのデータ活用を通じて、不確実性を軽減する新たな能力を提供してきたからです。
この技術とそのメリットは、もはや大多数の人にとって未知のものではありません。むしろ多くの人が、社会が直面する最も差し迫った課題の多くを、AIが迅速かつ効率的に解決する能力をじかに体験しています。AIは、COVID-19ワクチンが記録的な速さで供給された過程で役割を果たし、病院が 最もリスクの高い患者を特定して治療する支援を行い、さらに広く見れば、データにおける人為的ミスを大幅に減らす役割も果たしています。
今後1年を見据えると、社会のAIに対する意識の高まり、規制圧力の強まり、この分野への投資の勢いの拡大、そしてAIが従業員の生産性をどのように引き続き高めていくか、といった要因が一挙に表面化する可能性があると考えています。AIからの持続的な価値創出を可能にするには、実務的かつ応用的なAIの懸念への対応が最優先課題となるでしょう。
1. 意識の高まりと倫理的懸念
アルゴリズムのバイアスは、AIの利用において議論や論争が増えているテーマです。データに含まれるバイアスの存在を数学的に特定、分析、緩和することの複雑さと、「公正」であるとは意思決定において何を意味するのかを決める際の社会的影響の両方があるため、対処が難しい課題です。
公正性は、価値観、倫理、法規制を反映したものであることに加え、状況にも依存します。とはいえ、ガードレールを設けたデータやモデルを用いることで、AIの公正性に関する問題に取り組む明確な方法があります。また、発見されたバイアスの問題を緩和するために組織が取り得る具体的な手順も示されています。
AIシステムにおけるバイアスの最大の原因は、学習に用いられたデータです。そのデータには、結果に組み込まれた過去のバイアスのパターンが含まれている可能性があります。結局のところ、機械学習はデータから知識を得ますが、そのデータは私たち、つまり私たちの判断やシステムから生まれるものです。
技術の利用が拡大し、社会のAIに対する意識が高まっているため、組織がシステムを監査し、地方自治体がAIのバイアスが住民に悪影響を及ぼさないよう取り組む動きが見られるはずです。例えばニューヨーク市では、2023年に施行される新法により、採用ツールにAIのバイアスがある組織に罰則が科されます。
2. 規制圧力の強まり
今後1年、企業はAIモデルに関する規制圧力の強まりに直面すると予想しています。規制の変更には、個々の予測に対する説明の要件に加え、モデルの学習経緯や系譜に関する詳細な記録と追跡の要件が含まれる可能性が高いと考えられます。
AI規制の強化は、結局のところ業界に歓迎されるでしょう。 技術リーダーの81%が政府による規制の強化を望んでいると回答したことが、最近のDataRobotの調査で示されています。しかし、最近のAI権利章典の青写真は、AI時代においてアメリカ国民の権利を保護するための5つの原則と関連する実践を示しており、企業の行動を促しています。自主的なガイドラインが規制対象業界において規制へと転換される可能性を、より多くの企業が認識するようになっており、短期間で事後的にコンプライアンスを達成することに伴うコストへの懸念も高まっています。
こうしたことから、ほとんどの企業は、モデルガバナンスを備えたシステムへの投資が必要になると予測しています。適切なガードレールを備えたシステムに投資することで、企業はシステムが法的および規制上の義務を遵守しているという安心感を持ちながら、技術革新に引き続き注力できるようになります。
3. この分野へのさらなる投資
2023年には、経済およびサプライチェーンの混乱の直接的な影響を最も受けている企業を中心に、またAIの導入を最も拡大しやすい金融サービス、小売、ヘルスケア、製造業などの成熟産業において、AIへの投資の勢いが続くと予想しています。ただし、一部の投資は前進する一方で、AI技術の一部の動向は実験的な段階にとどまり続けると予測しています。
例えば金融サービスについては、ユースケースは、不正検知の精度を高め、煩雑な報告プロセスを迅速化できるAIシステムへと移行すると予想しています。期待の高まりとセキュリティ侵害の相次ぐ中、金融サービス業は、こうした有害な問題の緩和に役立つAI技術によって競争優位性を確保する必要があります。さらに、AIは従業員の職務満足度の向上を助け、従業員が顧客価値の創出に集中できるようにするでしょう。
技術動向に目を向けると、新たに開発された深層学習モデル（OpenAIなどによるもの）に基づき、生成AIが大きな関心を集めています。しかし、いくつかの課題があるため、これらのモデルはほとんどの企業にとってまだ新しすぎて実用的ではないと考えています。その第一の理由は、バイアスや公正性といった必要な課題に関して、その挙動を確実にすることが難しい点です。取り組みが進められているにもかかわらず、現行バージョンは容易に破られてしまうことがあります。つまり企業は、これらのモデルを自ら構築・作成することはほぼ不可能であるため、提供者を真に信頼する必要が出てくるでしょう。
こうしたモデルを望ましいユースケースに適応させることも、多くの企業にとって正しく行うのが難しい点です。今後も企業は生成AIとの協業を続けると予想していますが、ビジネスケースと期待される投資利益率がより明確に理解されるまでは、多くの企業において応用は引き続き実験的なものにとどまると考えています。
全体として、組織全体でAIの考え方を構築することに注力し、この分野への投資を継続するとともに、AIを事業運営に完全に統合する（新たな展開の評価を含む）企業は、市場の不確実性にもよりよく対処し、長期的な成功を実現できるでしょう。
