マイクロソフトは、人工知能に対する倫理的視点について議論し、提唱し始めた最も早い企業の一つでした。この問題が同社で本格化したのは2016年で、当時CEOのサティア・ナデラ氏は 開発者会議で講演し、同社がAIをめぐる倫理的課題をどのようにとらえているかを語り、同年後半には記事を発表し、これらの問題について論じました。ナデラ氏の主な焦点は、人間の能力を拡張するためにAIを活用するというマイクロソフトの方向性と、知的な製品に信頼性を組み込むことでした。翌年、マイクロソフトの研究開発責任者であるエリック・ホルヴィッツ氏は、同社の社長兼最高法務責任者であるブラッド・スミス氏と協力して、Aetherを設立しました。これはAIと、工学および研究における倫理を扱う部門横断型の委員会です。
こうした基盤が整った後、2018年にマイクロソフトはAI政策と倫理を担当する常勤のポストを設けました。ティム・オブライエン氏は、マイクロソフトに15年在籍し、ゼネラルマネージャーとして、まずプラットフォーム戦略を、その後グローバル広報を担当してきた人物で、この役職に就任しました。
もちろん、多くの組織がAIをめぐる倫理的問題への注目を強めており、2018年のデロイト調査では、AIに精通した経営幹部の32%が、AI関連の主要な懸念事項トップ3の一つとしてAIの倫理的リスクを挙げました。マイクロソフトとオブライエン氏は、この問題における先導役であり、オブライエン氏の言葉によれば、AI倫理の「提唱と普及活動（advocacy and evangelism）」に焦点を当てた役職を設けました。
私はオブライエン氏に話を聞き、彼の役職がどのように生まれたのか、その職務で何をしているのか、そして彼の仕事からマイクロソフトでどのような方針が生まれる可能性があるのかを確かめました。また、他社の同様の役職とAI倫理学者の役職がどのように関係しうるのかも尋ねました。
AI倫理学者の職がどのように生まれたか
オブライエン氏は、マイクロソフトの経営陣がAI倫理に関して初期に踏み出した取り組みに刺激を受け、本業としてこのテーマを自社のために追求したいと申し出たと語りました。キャリア初期にはさまざまなテック企業でプロダクトマーケターを務め、この15年間の大半をマイクロソフトで過ごし、開発者に対して、なぜ同社のプラットフォーム上で開発すべきかを説いてきました。
私はオブライエン氏に、LinkedInのプロフィールに哲学や神学の学位を隠していないかと尋ねましたが、彼は笑いながら否定しました。MBA課程のビジネス法の授業で倫理問題に触れたことはあり、また倫理と哲学に重点を置くカトリック修道会が運営するイエズス会の高校に通っていたとのことです。しかし、倫理に関する正規の学術的な準備はそれだけだとのことでした。
彼の関心は、米国外でマイクロソフトのグローバル広報機能を統括していた時期に芽生えました。この役職では絶えず出張があり、彼が言うところの「テクノロジーの地政学」に頻繁に触れていました。彼はその経験から、企業の倫理的・政策的課題をすべて法務部門に任せるだけでは不十分だと気づいたと語りました。オブライエン氏は、データと処理がクラウドへ移行するにつれ、技術、政策、地理の問題が互いに衝突し始めていると見ていました。
オブライエン氏は、自分が巨人の肩の上に立っていることをすぐに指摘しました。「私が語る考えの多くは私のものではありません」と彼は述べました。マイクロソフトのスミス社長がここ数年AI倫理を熱心に説いてきており、実際にスミス氏は講演し、また寄稿し、技術の倫理的、社会的、政治的側面を考慮する必要性について定期的に発信しています。オブライエン氏は、自身の役割の一部を、スミス氏の考えを大規模に広めることだと捉えています。スミス氏はマイクロソフトにおける責任あるAIの強力な推進役ですが、多忙な人物でもあります。さらに、AIをめぐる倫理的課題は非常に複雑で微妙なため、スミス氏がそのすべてを訴えることはできません。
AI倫理学者は時間をどのように使うのか
オブライエン氏の職務は2018年5月に始まり、ほぼすぐに世界各地を飛び回るようになりました。主な活動には、カンファレンスでの講演、マイクロソフトの顧客との面会、研究活動の主導、アナリストや研究者との対話、そしてマイクロソフト全体の活動の調整が含まれています。
オブライエン氏のプレゼンテーションは、アルゴリズムのバイアスの回避やAIモデルの透明性の確保などのテーマに焦点を当ててきました。これらの問題に関する一部のマイクロソフトの考え方は、報道で取り上げられています。重要な点として、オブライエン氏の役職はAIに焦点を当てていますが、彼はあらゆる情報技術についての倫理的視点を推進しています。オブライエン氏は、AIを「テクノロジーの倫理に火をつけた火種」と見なしており、アナリティクス、モノのインターネット、仮想現実および拡張現実もAIと同様に含めています。現実世界の多くのソリューションは、もちろんこれらの技術のハイブリッドです。
彼が率いる研究イニシアチブの目標は、テック倫理に関するグローバルな視点を築くことです。前職で、オブライエン氏は、世界の社会によってプライバシーと倫理に対する考え方が大きく異なることに気づきました。例えばヨーロッパ内だけでも、英国民はロンドン中心部のハイ・ストリートにおけるビデオカメラによる監視を容認しています。これはおそらく過去のIRAによる爆破事件の影響もあるのでしょう。一方、ドイツ人は東ドイツのシュタージ（秘密警察）のスパイによる過去の侵入の影響を受け、はるかにプライバシー重視です。オブライエン氏は、中国で顔認識やソーシャル・クレジット・スコアのようなAI主導のアプリケーションが国民に受け入れられているのは、少なくとも部分的に、社会秩序が儒教の道徳哲学における重要な原則であるためだと示唆しました。
マイクロソフトのAI倫理研究プロジェクトは、行動の緻密な観察を通じて収集した、さまざまな文化の民族誌的分析を含み、次のような外部の学者からの助言を受けています：Erin Meyer（INSEAD所属、『The Culture Map』の著者）。研究結果によっては、複数の出版物が生まれる可能性があります。私とオブライエン氏はいずれも、グローバルなテック倫理に関する情報源は多くないと感じています。この研究は、そのギャップを埋める一助となり得ます。
マイクロソフト社内では、オブライエン氏は、倫理というテーマに取り組む人々のコミュニティを広げようとしています。彼は、すでに多くの人々が関わっていることを示す資料一式を私に送ってくれました。資料には、例えば責任ある会話型ボットの開発に関するマイクロソフトのガイドラインに関するブログ記事（間違いなく、Tay AIチャットボット研究プロジェクトが2016年に発した常軌を逸した発言によって生じたものでしょう）も含まれています。また、プレゼンテーションと記事（ヘルスケア分野における解釈可能なモデルに関するもの）、そして（オプトインにより）マイクロソフトの建物を出入りする人物を認識する「ラーニング・ドア」という社内プロジェクトが含まれています。オブライエン氏は、スミス氏の法務チームと緊密に連携しており、また、マイクロソフト・リサーチ・ラボのテクニカル・フェロー兼ディレクターであるエリック・ホルヴィッツ氏に対しても、マトリックス型の報告関係を持っていると語りました。もちろん、マイクロソフトは大企業ですが、同社内ではAI倫理への認識が急速かつ広範に広まりつつあるようです。
このボトムアップ型・ミドルアウト型の変革アプローチこそ、CEOのナデラ氏がマイクロソフトの企業文化に根付かせようとしているものです。新規プロジェクトのために100万ドルと100人のスタッフを求める時代は終わった、とオブライエン氏は言います。望ましいアプローチは、まずアイデアを実行に移し、時間をかけて必要なリソースを集めていくことです。
マイクロソフトにおけるAI政策の策定
オブライエン氏は、AIおよび関連技術の活用方法に関する方針が、マイクロソフト内でやがてまとまった形で整備されると見込んでいます。すでにいくつかの方針は生まれており、例えばスミス氏が2018年に出した顔認識技術に関する指令は、ブログ記事を通じて、マイクロソフトが「消費者や市民に悪影響を及ぼす」形、または「民主的自由や人権を侵害する」形で、顔認識技術を販売しないことを表明したものです。
オブライエン氏は、アルゴリズムのバイアスの回避からモデルの透明性、予測型ポリシングのような特定の用途に至るまで、同社が今後定めていく方針が他にも多数存在すると考えています。マイクロソフトがプライバシーと倫理の分野で声を上げるのは今に始まったことではなく、同社は米国政府と争ってきました（クラウド上の機密性の高い顧客データのプライバシーをめぐるもので、この訴訟は立法措置の後、最終的に米国最高裁判所により取り消されました）。また、同社は意見書を提出し、2015年にカリフォルニア州サンバーナーディーノで起きた銃撃事件に関連するiPhoneをめぐり、Appleのプライバシー上の立場を支持しました。
しかし、具体的な方針がまだ策定されていない問題は多くあります。例えばオブライエン氏は、AIシステムによるミスや、AIによる被害に対する法的救済について言及しています。彼は、この分野で最も興味深いのは、その中にある未解決の問いが数多く存在することだと考えています。
マイクロソフトはAIおよびより広範なテック分野における主要なプレーヤーであるため、同社にとってAI倫理学者の役職を設けることは良い判断であると私は確信しています。オブライエン氏がこの役職に任命されて以来、Salesforce.comや他のいくつかのベンダーも同様の役職を設けました。主要なITベンダーではない他の企業は、AI関連の問題について公の場でここまで強く提唱することを望まないかもしれません。また、マイクロソフトが示すような上級幹部による強力なリーダーシップと支援がなければ、AI倫理学者の役職を設けるのは良い考えではないでしょう。しかし、これまで述べてきたように、他の多くの企業も、オブライエン氏がマイクロソフトで取り組んでいるものと似た課題に直面するはずであり、それらに対処するための社内の役職やグループを持つことは有用でしょう。
