IBMは、倫理的なAI技術の開発と推進という使命の実現に向けて着実に進んでいます。
新たなレポートでは、世界経済フォーラムとサンタクララ大学応用倫理マルクラ・センターが共同執筆したもので、これらの取り組みを詳しく紹介しています。
この分野における他の組織にとっての主な教訓は次のとおりです。
過去2年間、世界経済フォーラムは、「技術の責任ある利用」というプロジェクトの下で、マルチステークホルダー・グループとともに技術倫理の推進に取り組んできました。技術の責任ある利用。このグループは、技術の責任ある設計、開発、展開、利用における優れた実践事例を強調し共有する必要性を認識しました。この目的のため、技術倫理において有意義な貢献と進歩を遂げた組織を取り上げるケーススタディのシリーズの発行に着手しました。今年初め、このシリーズは、マイクロソフトの責任あるイノベーションへのアプローチに関する詳細な分析から始まりました。
本シリーズの第2弾では、倫理的なAI技術に向けたIBMの取り組みに焦点を当てます。この取り組みから得られた知見は、「技術の責任ある利用：IBMのケーススタディ」と題したレポートに詳述されており、世界経済フォーラムとサンタクララ大学応用倫理マルクラ・センターが共同執筆しています。以下に、当社の研究から得られた主な教訓と、倫理的な技術に向けたIBMの歴史的な歩みの概要を示します。
1. 従業員が倫理的に考え、行動することを信頼する
フランチェスカ・ロッシは2015年にAI倫理に関わる任務を負ってIBMに入社し、このテーマを検討するために40名の同僚を招集しました。この従業員グループの活動は、IBMの倫理的なAI技術への歩みにおける重要な章の始まりとなりました。
当初、このグループは「AIシステムを信頼するための学習」と題した論文を研究・発表しました。その中で同社は、AIの倫理的な開発に対する理解を深め、実行に移すための一連の約束を掲げています。その約束の一つは、AIシステムの倫理的な開発と展開について議論し、助言し、指導する社内の「AI倫理委員会」を設立することです。ロッシ博士とIBMのチーフ・プライバシー・オフィサーであるクリスティーナ・モンゴメリーの指導の下、この委員会は全世界で同社の技術倫理への取り組みを統括する責任を担っています。ただし、中央集権的な倫理ガバナンス委員会だけでは、175以上の国で働く34万5,000人を超える従業員を監督するには不十分です。全従業員は「設計段階からの倫理」の手法に関する研修を受けており、IBMのすべての事業部門がこの手法を採用することも義務付けられています。AI倫理委員会は、「フォーカルポイント」と呼ばれる従業員グループに依拠しており、彼らは倫理関連の問題について各事業部門を支援する公式の役割を担っています。
また、「アドボカシー・ネットワーク」と呼ばれる従業員ボランティアのネットワークも存在し、倫理的で責任ある信頼できる技術の文化を推進しています。従業員のエンパワーメントは、IBMにおいて技術倫理を機能させるための重要な要素です。
2. AI倫理に関する価値観と原則の運用
組織において倫理を運用するためには、まず価値観へのコミットメントがなければなりません。この目的のため、IBMはAIにおける主要な価値観を支えるよう研究と事業を方向付ける「原則と柱」を策定しました。これらの原則と柱の実施により、倫理がコードのレベルまで浸透するよう技術ツールキットが開発されました。IBM Researchは、誰でも無償で利用できる5つのオープンソース・ツールキットを作成しました。
1. AI Explainability 360：機械学習モデルをより説明可能にするための8つのアルゴリズム
2. AI Fairness 360：70の公平性指標と10のバイアス軽減アルゴリズムのセット
3. Adversarial Robustness Toolbox：機械学習モデルに対する多様な敵対的攻撃を克服するための多数のツール群。
4. AI FactSheets 360：AIモデルを透明化するため、ファクトシートはモデルに関するデータを一箇所に集約します。これには、ファクトシートの例と、その作成方法論が含まれます。
5. Uncertainty Quantification 360：AI予測の信頼性を検証し、モデルの信頼度に境界を設定するのに役立つツール群。
どの組織も原則やその他の倫理的な約束を掲げることはできますが、現実のものとするには運用されなければなりません。これらのツールキットは、IBMが自らの倫理的な約束を果たすのに役立っており、オープンソース化することで、IBMは他のテック企業や、より広く機械学習コミュニティを支援したいと考えています。
3. AI倫理における広範な影響の追求
IBMは、自社が技術業界や世界から切り離された存在ではないことを認識しています。同社の行動は業界の評判に影響を与え（その逆も同様）、最終的には技術業界全体が人間社会に影響を及ぼします。つまり、賭けられているものは大きく、正しく取り組むための努力には価値があるということです。
IBMが技術の広範な好影響を促進するために取り組んできた方法の一つは、教育機関や研究機関、マルチステークホルダー組織との提携です。
教育分野では、2011年にIBMは「P-TECH」を立ち上げました。これは、高校生がIBMのメンターの指導を受けながら、キャリアに役立つスキルを身につけることを促進するプログラムです。修了者は、IBMでの有給の夏季インターンシップに参加し、費用負担なしで準学士号課程に入学することができます。
大学レベルでは、IBMは複数の学校と提携しており、例えば、ノートルダム大学・IBM技術倫理研究所は、STEM分野において十分に代表されていないコミュニティとその教員を支援し、関連するカリキュラムの改善を図っています。研究機関と協力することで、IBMは次世代の技術専門家の育成に貢献しており、学界と産業界の間にコミュニケーションの経路を築いています。その中には、双方からの倫理的懸念についての議論を促進することも含まれています。
IBMは、「人々と社会のためのAIに関するパートナーシップ」（2017年）やバチカンの「AI倫理に関するローマ・コール」（2020年）など、複数のマルチステークホルダー組織の創設メンバーです。IBMはまた、AI倫理に関連する世界経済フォーラムの多くの取り組みにも参加しており、「人類のためのAIに関するグローバル未来評議会」、「グローバルAI評議会」、「グローバルAI行動連合」などがあります。
こうした組織的な提携に加え、IBMの個々の従業員も、IEEEの「倫理的行動イニシアチブ（Ethics in Action Initiative）」、「フューチャー・オブ・ライフ研究所」、AAAI/ACMの「AI、倫理、社会」会議、ITUの「AI for Goodグローバルサミット」に関わっています。
IBMは、これら多くの取り組みを支援することに時間と資金を投じる価値があると考えており、その理由は少なくとも3つあります。第一に、IBMは技術とAIの仕組みについて人々と社会を教育することに力を入れています。より教育の行き届いた社会、特により教育の行き届いた意思決定者は、社会におけるAIの将来的な役割について、より良い判断を下すことができます。
第二に、IBMは、AIが世界に及ぼしている影響について社会からの意見を集めたいと考えています。こうすることで、IBMはAIの社会的影響により迅速に対応し、被害を防止したり、被害に迅速に対処したりすることができます。これは、AIが有益な技術としての約束を真に果たしていることを確かにするのに役立ちます。
第三に、IBMとその従業員は、世界の利益のためにAIを開発、展開、利用することに取り組んでいます。社会がAIについて教育を受け、テック企業がAIの社会への直接的な影響を把握するようにすることで、AIはより良い用途に向けられる可能性が高まります。
倫理と責任あるイノベーションについて、長期的な視点で考える人々が増えており、多くの場合、彼らや彼らの組織は、これらの考え方を企業文化の不可欠な一部にしつつあります。こうした取り組みのすべてが、AIをより良い技術、そしてそれゆえにより信頼できる技術にすることに貢献しています。
今後に向けて
IBMの規模と範囲により、同社はこれらの重要な分野に多額の資源を投じることができますが、IBMが倫理的なAI技術の利用に向けて歩んできた中で得た教訓は、どの組織にも当てはまります。企業が進化し成長するにつれ、リーダーが事業のあらゆる側面を監督することは現実的ではなくなります。リーダーは従業員を信頼し、権限を与えて、倫理的な判断を下せるようにしなければなりません。リーダーはまた、従業員が力を得て倫理的な問題に対処する準備が整うよう、原則、ガイドライン、研修、ツール、支援を提供する必要があります。最後に、責任ある技術の全体的な目的は、社会にプラスの影響をもたらすことです。影響の規模と範囲は組織によって異なりますが、社会の状態を改善するという目標は一貫しているべきです。
より多くの組織が倫理的な技術の導入に関する経験を共有するにつれ、そのアプローチの類似点と相違点を検討する機会が生まれています。時間の経過とともに、成功と失敗を測定し、それらの結果につながった経緯を分析する方法が見えてくるかもしれません。この取り組みは、より多くの組織が他者の経験から学び、誰もが技術の責任ある利用のための手法やツールを採用できるようになることを期待するものです。
