世界経済フォーラムのAI・機械学習プラットフォーム四半期カンファレンス（Quarterly Connect）は2023年3月に開催され、企業の経営幹部がAIの今後の展望を説明しました。
公平性と偏りは、AI開発において依然として根強い課題です。ただし、個々の企業が直面する問題は多様かつ複雑であるため、さまざまな緩和アプローチが必要とされています。
ジェネレーティブAIと大規模言語モデルは、廃棄物の削減や不正の検知を含む社会的に有益なユースケースを生み出しており、AIの未来は明るいものとなっています。
人工知能（AI）はますます広く普及し、社会における利用範囲を広げるとともに、今では一般の人々にとっても利用しやすくなっています。その可能性には期待が寄せられる一方で、公平性と偏りの少ない結果の実現については依然として課題が残っています。さらに、AIがもたらす意図しない結果や危害についてはどうでしょうか。AIおよび機械学習業界で働く人々は、AIを善の力であり続けさせるために何ができるのでしょうか。
世界経済フォーラムのAI・機械学習プラットフォーム四半期カンファレンス（Quarterly Connect）のパネリストたちは、2023年3月23日に開催されたウェビナーにおいて、これらの問いに取り組みました。
フォーラムのAI・機械学習部門責任者であるケイ・ファース＝バターフィールドがモデレーターを務めたこのパネルには、AIライフサイクルのためのデータにおけるグローバルリーダーであるAppen社の最高経営責任者兼社長アルムガン・アーマド、価値主導型AIに注力する企業DataRobot社の最高技術責任者マイケル・シュミット、そして、データの プライバシーと透明性を含む強い倫理的重視を掲げ、世界最大の学習データマーケットプレイスであることを自負するDefined.ai社の創業者兼最高経営責任者ダニエラ・ブラガが参加しました。
倫理的なAIのための学習データ
3名の登壇者はいずれも、不適切なデータで学習させたAIから生じる倫理的ジレンマを認識している企業のトップに立っています。3名とも、目標の達成にあたり、公平性と偏りが根強いテーマになると見ています。そのうえでシュミットは、データコミュニティにおいて偏りと公平性への取り組みが大きく前進していること、そして近年は偏りの問題を緩和するためのベストプラクティスが整いつつあることを認めました。
企業ごとに偏りと公平性の捉え方は多少異なるため、解決策にも柔軟性が必要だとシュミットは述べました。
さらに彼は次のように付け加えました。「その他の実務上の懸念も数多くあります。企業では多くの失敗を目にします。最も野心的なAIプロジェクトに手を出してしまうのです……私たちは、まずは簡単なものから始め、こうした実務上の課題の一部を解決しながら、本当に影響力の大きいものへと段階的に取り組むことを勧めています。」
「第四次産業革命において、[開発途上国の農家]が、適切に学習された大規模言語モデル、つまりジェネレーティブAIモデルにアクセスし、自国の言語で質問して政府の補助金を受け取ることができるのは、これが初めてです。誰かがそのモデルを非常に迅速に学習させ、農家がそれを利用できるようにしてくれるからです」とアーマドは述べました。
「では、その機会を、不平等ではなく所得平等の機会とするにはどうすればよいのでしょうか？」と彼は付け加えました。
Appenでは、良質なAIを三つの柱によって確保しているとアーマドは説明しています。
良質なデータ。
計算資源の観点からの責任。
モデルを構築する人材とその多様性。
こうした目標の達成には、アーマドが認めているとおり、企業自身による適切な行動も欠かせません。公正な報酬、データ生成に伴う炭素排出量、そして多様性について、企業は報告し、成果を示す必要があります。目的とアプローチの両方を正しく定めれば、繁栄は後からついてくると彼は述べました。
ただし、特にジェネレーティブAIに参入する企業は、大量のデータを必要とするため、一部の企業は歩みを緩める必要があるとブラガは述べました。適切に監視された社内システム、すなわち定期的な監査、同意、著作権への配慮が重要です。ウェブからスクレイピングしたデータを利用する人が増えていますが、それは偏りを持ち込むものであり、また従業員への教育も十分に行われていないと指摘しました。
2023年におけるジェネレーティブAIの機会
2023年は、ジェネレーティブAIが大きな潮流となっている年です。これは、多くの人手を必要としない大規模言語モデルを基盤としています。しかし、人間をループから完全に外せると仮定するのは誤りであるとアーマドが指摘しているように、人間は今もなお、AIから最良の成果を引き出すうえで不可欠な存在です。
例えばChatGPT3は、プロンプトエンジニアリング、すなわち正確で適切な結果を返し、AIが「ハルシネーション（幻覚）」を起こさないようにする文や質問の作成に依存しています。その例は、一部の報道された事例に見られるとおりです
「AIが実現者であるなら、人間は変革者です」とアーマドは述べました。
シュミットはまた、廃棄物の削減、不正検知、マネーロンダリング対策といった社会的課題に取り組む、刺激的なユースケースが生まれるとも指摘しました。「これらの不正の発生源を追跡し排除するうえで、AIを活用してその効果を飛躍的に高める動きが、はるかに多く見られるようになっています。」
一方でブラガは、生産性の未来を決めるのはAIであると述べました。
「AIが今後も存在し続け、人間とともに働き、人間を補完することは明らかです」と彼女は述べました。「しかし同時に、これらのデータソースの透明性と信頼性を追跡するために、リバースエンジニアリングのツールを構築する好機も見えています」と彼女は付け加えました。
信頼の構築
AIは有用で状況を一変させる可能性を持つ一方で、偏りへの対応の必要性を認めつつも、ジェネレーティブAIのユースケースをめぐる懸念は依然として残っています。
例えば教育機関が真に信頼できるシステムを構築するため、ブラガは、ChatGPTに取り込まれていないジェネレーティブAIモデルを構築している企業や大学と提携し、ツールを強化して教育関係者との信頼を築くことを提案しています。
一方、欧州連合（EU）では、EU域内全体でAIシステムに関する規則の調和を目指す提案されたAI法において、ジェネレーティブAIに対応するため、「汎用AI」の定義が最近追加されました。これは、低リスクから高リスクの用途まで利用されうることを踏まえたものです。
シュミットは、ジェネレーティブAIモデルを特定のトピックに高い精度で集中させることは困難だと認めています。コミュニティでは高度なプロンプト戦略が現在検討されていますが、それはいまだに非常に難解な技術だとしています。
ブラガは、ジェネレーティブAIに伴うリスクを、社会的信用スコアリングのように、27の加盟国で禁止されているか、禁止が検討されている他の高リスクの用途と区別しています。
ジェネレーティブAIに関しては、ブラガは次のように提案しています。「禁止するよりも、すべての倫理原則を満たしている用途を認証するほうが良い考えでしょう。」
