責任あるイノベーションは、文化の変革と適切なツールから始まります。
マイクロソフトは、より責任があり包括的なAIの開発を支援するため、新たな原則の策定からロールプレイング演習、従業員の業績目標に至るまで、あらゆる手段を導入しました。
責任あるイノベーションの目標に労働力を整合させることは、社内での標準化に向けた進捗の把握に役立ちます。
最善の意図があるにもかかわらず、企業では倫理的に行動したいという思いと、その善意を実際に実行することとの間に、しばしばギャップが存在します。
これを「意図と行動のギャップ」と呼びます。このギャップを埋めることは、技術をより責任ある包括的な方法で開発するうえで重要です。
意図と行動のギャップを埋めるため、世界経済フォーラムは最近、技術における倫理を実践に移すことで進展を遂げた組織のツール、プロセス、教訓を明らかにするプロジェクトに着手しました。このプロジェクトは、14万5千人を超える従業員を抱えるマイクロソフトが、責任あるイノベーションの実践を業務に定着させてきた過程を研究し、同社の文化の変遷、同社が構築したツールとプロセス、そしてこれらの取り組みの有効性を検討したものです。
本研究の知見は、次の報告書にまとめられました： 『Responsible Use of Technology: The Microsoft Case Study』（世界経済フォーラムとサンタクララ大学のマーカラ応用倫理センターによる共同執筆）。本研究から得られた主要な4つの教訓は以下のとおりです。
世界経済フォーラムは第四次産業革命に対して何をしているのでしょうか？
フロンティア技術・イノベーションセンターは、新興技術とその現実世界への影響を理解するため、科学者、政策立案者、ビジネスリーダーを結集しています。
協働と実証実験を可能にすることで、同センターは、パートナーが研究から得られたイノベーションを、世界共通の課題に対応する実用的な応用へと転換する支援を行っています。
1. 責任あるイノベーションは、文化の変革から始まります。
2014年にサティア・ナデラがマイクロソフトのCEOに就任した際、彼は「グロース・マインドセット（成長志向）」のアプローチを持ち込みました。研究者キャロル・ドウェックによって開発されたこのアプローチは、思考が人間の営みにどのように影響するかを考察するものです。この考え方とともに、内省、イノベーション、学習を重んじる環境が生まれ、同社の文化は、自社の技術が社会に及ぼす影響をより深く考慮できるようになりました。
このアプローチは、技術およびPRにおける危機の後に実践に移されました。2016年、マイクロソフトはTwitter上でAIを搭載したチャットボット「Tay（テイ）」を公開しましたが、悪意ある攻撃を受けて不適切で侮辱的な発言をするようになりました。別の企業であれば、この事案の責任を他に転嫁したかもしれませんが、マイクロソフトは公式に謝罪しました。同社と社員は、この経験から成長し、社内の多くのレベルでAIにおける倫理を実践に移す好機と捉えました。
この取り組みを経て、2018年に策定された基本指針である「責任あるAI原則（Responsible AI Principles）」が生まれました。マイクロソフトは、過去にプライバシー、セキュリティ、アクセシビリティを自社製品に組み込む際に成功したハブ・アンド・スポーク・モデルを応用したガバナンス体制を構築することで、これらの原則を全社に実装しました。
このハブには、3つの社内チームが含まれます。その内訳は以下のとおりです：
AI、倫理、工学・研究における影響に関する委員会（AETHER Committee）：責任あるAI原則の実施に関する科学的・工学的な助言と専門知識を提供する；
責任あるAIオフィス（ORA）：政策ガバナンス、機微な利用、教育機能を担う；および
工学における責任あるAI戦略グループ（RAISE）：エンジニアが責任あるAIのツールやシステムを実装できるよう支援する。
このガバナンスモデルにおけるスポークの役割を担うのが「責任あるAIチャンピオン（Responsible AI Champs）」です。全社に配置されたこれらのチャンピオンは各分野の専門家であり、マイクロソフトの責任あるAIアプローチについて助言、支援し、周知を図ります。
さらにマイクロソフトは、「責任あるAI標準（Responsible AI Standard）」も策定しました。これは、責任あるAIシステムの設計と開発を支えるために、社内チームが従うべき一連のステップを示したものです。これらの取り組みは、文化の変革を支え、技術における倫理を実践に移すために不可欠な、周到に設計されたガバナンスモデルの一例を示しています。
2. ツールと手法により実装が容易になります。
どのような変革管理の取り組みにおいても、ツールは個人が行動を変えやすくします。これは、技術における倫理の実践にも当てはまります。
データサイエンスや機械学習（ML）といった職種はまだ黎明期にあるため、ツールは実務者がデータサイエンスモデルの性能を説明し、アルゴリズムの公平性を向上させ、責任あるAIの実践に不可欠な倫理上の課題を特定することを容易にします。
InterpretML、Fairlearn、Error Analysisといったマイクロソフトの技術ツールは、この分野における重要な貢献を示すものです。具体的には、InterpretMLは、実務者がMLモデルの振る舞いをよりよく解釈し、説明することを容易にします。一方、Fairlearnは、データサイエンティストが機械学習モデルの公平性を評価し、改善することを支援します。最後に、Error Analysisは、データサイエンティストがベンチマークより誤差率の高いコホートを特定し、モデルの精度を向上させることを容易にします。これらのツールはいずれも、ユーザーにダッシュボードを提供し、モデルの性能を視覚化しやすくしています。
しかし、本研究では、チームが自らの業務を倫理的に捉えることを助けるツールも、行動の変化を促すうえで重要であることが分かりました。マイクロソフトにおいて、これらはインパクト評価（Impact Assessments）、Envision AIワークショップ、Judgment Callゲーム、コミュニティ・ジュリーという形で提供されています。これらのツールは、それぞれチェックリスト、ロールプレイング演習、ステークホルダーとの対話を用いて、チームが製品の起こりうる影響を検討することを支援します。こうしたツールを導入することで、製品チームは、技術業界ではしばしば代表性が低いものの、自社の技術の影響を受ける利害関係者への共感を深めやすくなります。
3. 方針の整合と影響の測定が説明責任を生み出します。
多くの企業は、社員が企業の価値観をどの程度体現しているかによって、従業員の業績を評価しています。技術における倫理を実践に移そうとする企業は、この慣行を拡張し、自社の倫理的な技術原則に照らして従業員の業績を評価・測定しなければなりません。
マイクロソフトの数千人の従業員を責任あるインテリジェンスの原則に整合させる取り組みは、Cognitionチームから始まりました。同チームは、拡張現実／仮想現実、コンピュータビジョン、人工知能技術を活用した製品を手がけるグループです。
Cognitionチームのメンバーは、年2回の目標設定および業績評価の場で上司と面談し、組織における各自の役割に合わせた責任あるAIの実装という共通目標を設定しました。この仕組みは現在他のチームにも展開されており、各従業員の影響を測定しながら、責任あるAIの取り組みをめぐる整合性と説明責任を確立することを、マイクロソフトに可能にしています。
4. 責任ある製品は、より優れた製品です。
責任あるイノベーションを通じて、「より優れた」製品を開発することができます。すなわち、より高い品質を備え、包括的で、世界に貢献できる態勢がより整った製品です。
より説明責任を果たせる製品を生み出すため、マイクロソフトのAI原則が最上位の期待値を定めています。このツールキットは、実装への道筋と製品そのものの開発を方向づけるのに役立ちます。また、さまざまなMLツール、ワークショップ、率直な対話を通じて、エンジニアが責任ある製品開発の詳細に踏み込めるよう後押しします。
これらの取り組みの効果は、すでに一部のマイクロソフト製品の機能に表れています。例えば、「空間分析（spatial analysis）」、「音声同意（speech consent）」、および「Custom Neural Voice」は、それぞれプライバシー、意味のある同意、透明性を重視しています。これらの価値へのコミットメントが、意図と行動のギャップを乗り越えて具体的な設計プロセスに組み込まれていなければ、これらの製品はより責任の低い方法で設計されていたかもしれません。
これらの製品は、最終的には実践的な倫理的思考と行動に根ざしています。本研究では、マイクロソフトによる責任あるAIの実装を、『技術における最善の倫理的実践（Best Ethical Practices in Technology）』（マーカラ応用倫理センターが2018年に発表）と比較したところ、マイクロソフトはこれらの実践の大半を導入済みか、導入に着手していることが分かりました。例えば、マイクロソフトのAI原則は、収集されたベストプラクティスのうち6つと直接結びついています。
今後の展望
これらの教訓は、ある一企業が責任あるイノベーションをどのように実践に移したかを示しています。これらの原則、ガバナンスモデル、ツールは、他の技術や組織にも適応させ、応用することができます。
もちろん、変化は一夜にして起こるものではありません。責任あるイノベーションと倫理的行動に向けた企業文化の抜本的な変革が必要です。しかし、技術を最善の目的のために活用する方法を学ぶにつれ、必要な抜本的変革は企業文化だけでなく、あらゆる文化と社会全体に及ぶものでなければなりません。こうした問題が存在することを認識することが、それらをどのように解決できるかを探る第一歩です。
「責任あるイノベーションと倫理的行動に向けた企業文化の抜本的な変革が必要です。」
社会の多くの分野がデジタル変革を進めるにつれ、技術倫理を実践に移すための道のりを歩む組織も増えていくでしょう。企業がその文化、プロセス、製品を改善するためのこうした取り組みを行わなければ、技術がすべての人にとってより明るい未来をもたらすという約束を果たせないばかりか、社会を損ない個人に害を及ぼす技術の影響を被ることになるでしょう。
上記の取り組みにより、マイクロソフトは自社の理念を実現し、意図と行動のギャップを埋めることができました。同社は現在、これらの教訓が他社にとって有益なものとなり、他社も自らの経験から得た教訓を共有することを願って、この教訓を公表しています。より多くの企業が自らの経験を共有する意思を持てば、相互の利益が生まれるだけでなく、より多くの分野で倫理的思考への期待が高まり、ひいては世界中でより大きな恩恵がもたらされることが期待されます。
