人工知能（AI）の倫理は、世界のテクノロジー業界にとって重要な課題です。
堅牢で倫理的なAIの実践を導入するには、多様な知識と視点が必要です。
この記事は、テクノロジー倫理に関するシリーズの一編で、適切な企業文化を築く方法とAIを正しく活用する方法を取り上げています。
過去2年間で、テクノロジー業界では人工知能（AI）の倫理や、倫理原則がAIの利用や体験のあり方を形作る役割について、議論や論考が大幅に増加しました。研究コミュニティもこれに続き、機械学習におけるバイアスから説明可能性、セキュリティ上の影響まで、幅広いテーマを扱う論文が顕著に増えています。
これは新しい動きではありません。Data & Societyのジェイコブ・メトカーフが指摘するように、コンピューティング機械学会（ACM）と電気電子技術者協会（IEEE）は、1990年代初頭にコンピューター科学者向けの倫理指針を発表しました。さらに近年では、数多くの社会科学者や科学技術社会論（STS）の研究者が、テクノロジーが人々や社会に害を及ぼす可能性について警鐘を鳴らしています。
AIを、破壊的変化の歴史を持つ業界における最新の変革にすぎないと捉える人もいます。しかし、AIが世界を変える速度は、これを別格のものにしています。リスクの高まりも相まって、業界はようやく経験豊富な専門家の助言に耳を傾け、テクノロジーが市場に投入される前に、その設計、開発、導入、利用に倫理的な配慮を組み込むようになりました。
しかし、こうした活動の増加に対し、「倫理ウォッシング」という批判も起きています。これは、世間からの評価を高めるため、組織が倫理原則に関心を持っているかのように誇張する行為を指す否定的な言葉です。その結果、「行動」に関する疑問が生じるのも当然です。企業は、原則に基づく主張を実効性のあるガバナンスにどう結び付けているのでしょうか。さらに重要なのは、これまで製品ライフサイクルに必須の要素として考慮するよう求められてこなかった企業文化に、こうした実践をどう定着させるかです。
多くのテクノロジー企業が、製品の設計や導入に倫理を組み込む新たな取り組みを進めていますが、まだ始まったばかりであるため、その活動を公に語ることに慎重な企業も少なくありません。しかし、こうした課題には緊急の対応が求められます。私たちは皆、同様の課題に取り組んでいるのですから、学びながら企業が情報を共有し、誰もがその恩恵を受けられるようにする必要があります。
40社から成る、世界経済フォーラムの「倫理担当役員」コミュニティの一員として、業界各社のリーダーたちは、製品をどのように設計し、誰に販売すべきかを検討するための基本的な枠組みさえ自社にないと語っています。その多くは新設された役職や部署です。体系的なアプローチがないため、場当たり的な個別判断に頼ってしまう企業も少なくありません。
世界経済フォーラムは第四次産業革命にどう取り組んでいるのでしょうか？
フロンティア技術・イノベーションセンターは、科学者、政策立案者、ビジネスリーダーを結集し、新興技術とその現実社会への影響を理解するための取り組みを進めています。
連携と実験を促すことで、同センターはパートナーが研究から生まれたイノベーションを、世界共通の課題に取り組む実用的な応用へとつなげる支援をしています。
マイクロソフトでは、堅牢な責任あるAIガバナンスプロセスを導入する計画を公表しており、現在その取り組みを進めています。進捗に応じてさらに多くを共有していく予定ですが、早い段階で学んだことの一つは、ガバナンスのプロセスや実践を実際に機能させるうえで、重要な役割を担う人が必要だということです。それが「責任あるAI推進担当者」です。
責任あるAI推進担当者
マイクロソフトにおける「推進担当者」とは、端的に言えば、特定の地域や職場グループの同僚に対し、啓発、助言、支援を行い、必要に応じて問題を上位に報告する分野の専門家です。マイクロソフトでは長年にわたり、セキュリティ、競合製品、オープンソースなど、さまざまな分野で推進担当者を置いてきました。
倫理においてこれが重要なのは、主に二つの理由があります。第一に、多くの職種の従業員にとって、テクノロジー倫理は新しいテーマです。第二に、この分野では、組織全体に知識とファシリテーションを分散させ、多様な形で備える必要があります。
第一の理由は、よく知られています。医学部、法科大学院、哲学科以外では、大学で倫理を正式に学ぶカリキュラムがなかったことが、幸いにも、スタンフォード大学、MIT、サンタクララ大学のマーククラ・センター、ハーバード大学、コーネル大学など、主要な技術系教育機関によって現在は補われつつあります。しかし、すでにテクノロジー業界で働いている人々には、急速な学習が求められます。マイクロソフトでは、推進担当者が、基礎概念、意思決定の枠組み、そして、害の定義、被害にさらされる可能性とその規模、影響の深刻さをどう評価するかを判断するためのプロセスを紹介し、急な学習曲線に対応できるよう支援しています。
第二の理由も同様に難題です。成熟したグローバル企業において、ソリューションの開発や販売を含む既存の製品ライフサイクルのあらゆる側面に、倫理原則を取り入れられるよう人々を支援するという、変革管理の課題です。
十分な共通点がある場合、私たちはこうした課題への取り組み方を考える際、過去の類例を参考にすることがよくあります。マイクロソフトにとって、大きな手がかりとなるのはセキュリティとプライバシーです。セキュリティの場合、製品文化に深く根付く変革のきっかけとなったのは、ビル・ゲイツが2002年に発表した「信頼できるコンピューティング」に関するメモでした。これを機にソフトウェア開発プロセスの変更が始まり、最終的にマイクロソフト・セキュリティ開発ライフサイクル（SDL）となりました。一方、プライバシーへの取り組みを促したより最近のきっかけは、EUの一般データ保護規則（GDPR）です。マイクロソフトは世界中の顧客に向けてこれを採用すると表明しました。どちらの類例でも、進むべき道を明確にする決定的な契機があり、その後、望ましい成果を得るための継続的な取り組みが続きました。
責任あるAIへの取り組みは複数年にわたる道のりです。その始まりは、AIに倫理的な枠組みが必要だと論じたサティア・ナデラの2016年の論説記事で、その後、2017年のAETHER委員会の設立、2018年の『The Future Computed』の出版など、責任あるイノベーションへのマイクロソフトの取り組みを確かなものにするため、いくつもの段階を経てきました。こうした基盤のもと、推進担当者は社内で責任あるAIの擁護者、推進役となり、製品や営業の文化におけるその役割を強化する継続的な取り組みを支えます。
具体的には、責任あるAI推進担当者には、次の5つの主な責務があります。
チームや職場グループにおいて、責任あるAIの原則と実践への認識を高める
チームや職場グループが、AI機能、製品、サービスのライフサイクル全体を通じて、定められた実践を導入できるよう支援する
責任あるAI開発の利点と、意図しない害がもたらし得る影響について、リーダーに助言する
利用可能な経路を通じて、AIに関する疑問や慎重な扱いが必要な用途を特定し、上位に報告する
組織内外で責任あるAIの推進者コミュニティを育て、顧客中心主義とグローバルな視点を重視する文化を醸成する
マイクロソフトでは、推進担当者はこれまで本務に加えて担う役割でした。推進担当者はフルタイムの仕事を持ち、分野への関心やその領域でのリーダーシップを理由にこの役割を務めます。経歴は多様で多面的です。テクノロジー、ビジネス、社会科学、法律にまたがるこの分野では、特に重要なことです。たとえば、専門分野を理解し、職場グループの言葉で話せるデータサイエンティストやエンジニアは、技術チームの推進担当者を務めながら、社会科学の知識を活かして、社会に及ぼし得る影響について必要な視点をもたらすことができます。一方、営業チームでは顧客と接する職務が扱う問題は大きく異なり、推進担当者は見込み顧客から受け取るさまざまな提案依頼において、慎重な扱いを要する可能性のある用途について助言します。こうした多様性にはもう一つ重要な利点があります。推進担当者が課題や視点を持ち寄り、AI倫理委員会や意思決定者に意見を提供できることです。
責任あるAIを支える、明確で再現可能な業務慣行を文化に恒久的に根付かせる能力を高めたいという情熱と意欲は、役職上の年次よりも重要です。
学びながらさらに共有していきますが、推進担当者プログラムの導入が、あらゆるガバナンスの取り組みを成功させるうえで極めて重要であることは、すでに明らかです。原則を行動へと移し続けるには、製品ライフサイクルのあらゆる段階で文化を変えるとともに、職場グループ単位で継続的に取り組み、進歩と学びを確かなものにする必要があります。
