生成AIツールを開発する2社が、Radio Davosポッドキャストに出演し、この技術の安全性と倫理性をどのように確保しているかについての見解を語ります。
Microsoftの責任あるAI担当最高責任者ナターシャ・クランプトンは、企業は自主規制を行う必要があるが、規制も必要だと述べています。
スタートアップHugging Faceの共同創業者トーマス・ウルフが、生成AIチャットボットを立ち上げた経験を語ります。
購読する ポッドキャストシリーズ全編を聴くには、 エピソードページおよび書き起こし：https://www.weforum.org/podcasts/radio-davos/episodes/ai-episode-2-microsoft-hugging-face
Microsoftは人工知能革命における主要企業の一つです。ChatGPT技術を、私たちの多くが使用する製品に組み込んできたこのソフトウェア大手は、自社のAI製品を責任ある倫理的なものにするために、どのように取り組んでいるのでしょうか。
世界経済フォーラムの生成AIに関するポッドキャストシリーズ第2回では、Microsoftの責任あるAI担当最高責任者ナターシャ・クランプトンが、責任と規制について語ります。
また、シリコンバレーのスタートアップHugging Faceの共同創業者が、AIチャットボットを世に送り出した時の思いを語ります。
主な発言は以下のとおりです。
責任あるAIの開発
「私の仕事は、Microsoftが採用している6つのAI原則を、社内全体で実践に移すことです」とナターシャ・クランプトンは述べています。「私たちの指針となる6つの原則は、公平性、プライバシーとセキュリティ、信頼性と安全性、包摂性、説明責任、透明性です。」
「Microsoftは長年、私たちのような責任ある組織が、自主規制を行い、可能な限り最良のベストプラクティスを導入する必要があることで、AIシステムが安全で、信頼でき、信頼性の高いものになるよう確保すべきだという立場をとってきました」と彼女は付け加えています。
「私たちは規制も必要だと認識しています。この新しい技術への信頼を築き、すべての人に法的な保護を与えるためには、新たな法律、規範、基準が必要になることは間違いありません。」
「すべての企業が可能な限り最も責任ある慣行を採用することが望ましいのですが、それは現実的な想定ではありません」と彼女は述べています。「すべての人に対してこの基本的な保護があることが重要であり、それが技術への信頼構築につながると考えています。」
世界経済フォーラムは、人工知能の倫理的な開発をどのように確保しているのでしょうか。
AIへの信頼構築には透明性が鍵
Hugging Faceの共同創業者トーマス・ウルフ氏は、Hugging Faceについて、同社のオープンソースによるアプローチは、責任あるAIを実現するための重要な方法の一つであると述べています。
「オープンなモデルを持つことは非常に重要です」とウルフ氏は述べています。「人々は、AIがどこで失敗する可能性があるのか、また、どこで機能するのかを理解する必要があります。また、これらのツールに存在しうる偏りや、悪用される可能性についても認識する必要があります。」
ウルフ氏は、プラットフォームのソースコードへの全員のアクセスを認めることは、透明性の究極的な表れだと述べています。「モデルがオープンであれば、それを作った人々の言葉だけを信じる必要はありません。自らモデルを監査し、どのように作られたかを読み、学習データを精査し、問題を提起することができます」と彼は付け加えています。「当社のモデルには、人々がモデルにフラグを立てたり質問を提起したりできる議論ページがたくさんあります。」
AIが安全だと分かるまで、開発を一時停止すべきでしょうか。
最近、数千人のAIエンジニアや企業のリーダーが署名した公開書簡は、ChatGPTより強力なAIモデルの開発を6か月間一時停止するよう求めました。この提案の狙いは、規制当局が開発のペースに追いつく時間を確保し、テック企業が潜在的リスクについてより深く理解する時間を得ることにありました。クランプトン氏はこうした懸念を認めつつも、開発を一時停止することは逆効果になると述べています。
「現在進行中の重要な研究開発作業、特にこれらのモデルの安全性に関する作業を一時停止するのではなく、行動計画に重点を置くべきだと考えます」と彼女は述べています。「私たちは、現在有効な慣行について最善のアイデアを提示し、リスクを確実に特定、測定、軽減できるようにすべきです。また、この分野で必要となる新たな法律、規範、基準についても、最善のアイデアを提示すべきです。」
分野別のAI規制
ウルフ氏は、AIの開発速度は今後さらに加速し、包括的な規制の枠組みは機能しないと考えています。同氏は、商業航空や原子力産業のガバナンスに似た、分野別の規制という考え方を支持しています。「特定の分野であれば、それは理にかなっています。航空会社について話す場合、それは非常に特定の分野、つまり商業航空です。他の種類の航空に同じものはありません」とウルフ氏は述べています。
「防止したい特定の危険がある特定の分野を明確にできれば、それは理にかなっていると思います。このレベルでの規制は非常に前向きで、非常に興味深いものになるでしょう。しかし、AI全般を一括して対象とするものは、私には範囲が広すぎて効果的ではないように思えます。」
AIと職場
AIが職場や私たち全員の仕事に与える影響は、責任あるAIに関する議論の中心となっています。その使用については疑問が提起されており、採用活動での利用について、候補者の絞り込みや最終的な選考にまで利用されることへの懸念があります。AIは、学習に用いられたデータの結果として、選考プロセスに偏りを持ち込みうることが認識されています。
そして最大の問いは、誰が仕事を担うのか、人間かAIか、ということでしょう。フォーラムの「Future of Jobs Report 2023（2023年版 仕事の未来レポート）」では、かつて人間が行っていた作業を、機械が次第に担うようになっているという傾向が明らかになっています。
この傾向は今後数年間で加速する可能性が高いものの、クランプトン氏はChatGPTの能力には感銘を受けているものの、AIが人間に取って代わるとは考えていません。
「影響評価の手法に基づいてAIを規制できる法案を作成するよう、GPT-4の初期版に指示しました。非常に質の高い最初の草案が出力されました。
「もちろん、慎重に扱うことが非常に重要であり、法律の専門家としての訓練を受けた私は、確かにいくつかの誤りに気づきました。その技術がどこで優れていて、どこに欠陥があるのかを理解し、認識することが重要です。
「AIの最良の点と人間の最良の点を組み合わせるバランスを取る必要があります。この技術は本質的に、これらの作業を行い、人間の能力を高めるための副操縦士なのです。」
Radio Davosポッドキャスト全編はこちらからお聴きいただけます：
そして前のエピソードはこちらです：
