カナダが人工知能（AI）分野で培ってきた研究の専門性を背景に、近年、大規模な投資が行われています。しかし、この新技術のガバナンス、倫理、社会的責任に充てられた資源ははるかに少なく、多くの地域の取り組みがその空白を埋めようとしています。
AIはすでに私たちの日常生活に影響を及ぼしています。ソーシャルメディアで「いいね」を押したり、画面をスワイプしたり、コメントしたりするたびに、私たちの多くはデータを提供しています。それは、オンラインで動画を勧めたり、メールの管理を助けたりするAIアプリケーションの改善に使われます。
スマートフォンに質問できるのは、コンピューターを使って人間の労働を自動化し、意思決定を改善する方法を探ってきた長年の研究の成果です。高性能なプロセッサー、アルゴリズムの進歩、そしてオンラインでのやり取りから集められることの多いビッグデータが、ディープラーニング（AIの一分野）の大きな進歩を促してきました。
こうした分野の進歩は、人類全体に利益をもたらすものとして歓迎されてきました。
しかし、AIを本質的に善いものとみなすと、倫理的で安全かつ包摂的な応用に必要な重要な研究開発が見過ごされます。不適切なデータ、解釈不能なコード、性急な導入は、称賛に値しないAIシステムを容易に生み出しかねません。
例えば、自動化システムはプログラムされ、 偏見を組み込まれる可能性があります。米国で犯罪リスクのスコア評価に使われているCOMPASプログラムについて、ProPublicaの調査は、同プログラムがアフリカ系米国人に対して本質的に偏っていたことを明らかにしました。
こうした発見は、重要な現実を示しています。第一に、AIの影響はきわめて現実的であり、実際の人々や家族に及びます。第二に、これは今まさに起きていることであり、将来起こるかもしれない荒唐無稽なシナリオではありません。
影響を評価する
こうしたリスクがあるにもかかわらず、カナダでも世界でも、AIへの関心は衰えていません。
カナダでは、連邦政府が昨年、人工知能研究に大規模な投資を行いました。2017年予算には1億2,500万ドルが盛り込まれ、全カナダ人工知能戦略に充てられます。同戦略は、カナダ高等研究所が運営します。AIとサプライチェーンに関する研究を提案したケベック州拠点のプロジェクトは、2月に連邦政府の総額9億5,000万ドルの「スーパークラスター基金」の一部を獲得しました。
しかし、新技術がもたらす社会的、文化的、政治的な影響について専門知識を持つ分野に適切に働きかけなければ、こうした取り組みはおそらく、テクノロジー企業と公益との隔たりを広げ、研究を批判的な考察から切り離してしまいます。
幸い、AIの社会的影響は連邦政府の注目を集め始めています。
カナダ財務委員会事務局（TBS）は、政府におけるAIの責任ある利用をめぐる初の公開協議を最終段階に進めています。AIコミュニティと緊密に連携し、オンライン公開協議を試験的に実施しました。これにより、私たちや他の関係者が、その後のガイドライン作成に協力できました。
その報告書は、利用者が政府のサービスを利用しやすくするチャットボットや、ウェブサイトのコンテンツを作成するプログラムなど、AIの多くの潜在的な用途を検討しています。この取り組みは、連邦政府が自らのAI利用に強固なガイドラインを採用することで、先導役を果たせることを示しています。
こうした具体的で限定的な用途は、政府が自らの業務における自動化のリスクを理解している表れです。最終報告書によって、透明性、説明責任、公平性を保証する強固なガイドラインが策定されることを期待します。
さらに、カナダ外務省は人工知能と人権に関する複数大学の共同研究を主導しています。例えば、コンコルディア大学でフェンウィック・マッケルビーが担当するメディア政策ゼミの大学院生は、人権に関するAIの政策的影響を幅広く調査しています。マッケルビーは、AIをめぐる議論を、メディアとテクノロジーの文化的、社会的、政治的側面を長年問い続けてきたコミュニケーション研究や文化研究の専門知識と結び付けようとしています。
マッケルビーの研究は、アルゴリズムとAIがインターネットガバナンスやブロードバンドの性能に及ぼす影響を探ることで、こうした取り組みとつながっています。
アビシェク・グプタは、金融サービス業界におけるAI活用型自動化の影響を評価するとともに、変化する職務上のニーズに応えられる実務家を育成するため、大学のカリキュラムをどう調整すべきかを検討しています。
グプタはまた、モントリオールAI倫理グループを創設しました。ここでは、人工知能の責任ある開発に関するモントリオール宣言の策定に向けた議論が重ねられてきました。この文書は、AIがウェルビーイング、自律性、正義、プライバシー、知識、民主主義を尊重し、責任を持って開発されるための明確な原則を示しています。
データ政策としてのAI
AI戦略は、孤立した状態で策定する必要はありません。
AIに関する国の取り組みは、データをめぐって新たに生まれている慈善・非営利セクターの議論から学ぶべきです。モントリオールのPowered by Dataは、慈善団体や非営利団体がデータ活用を進め、包摂的かつ倫理的なデータ利用の模範となる方法について、重要な議論を主導してきました。
データは、このセクターがデジタルイノベーションを業務に取り入れ、使命に注力するためのデジタル戦略を策定する方法の一つにすぎません。
この変化の一環として、デジタル自動化を踏まえ、不平等や差別に関する問題を改めて検討する必要があります。ブルックフィールド研究所は、イノベーションと起業家精神を対象とする政策研究機関であり、自動化が労働市場にもたらす潜在的な恩恵と脅威を調査してきました。その評価によると、こうした影響はカナダ全土に均等に及ぶわけではなく、一部の地域社会では雇用が減少する可能性がより高いとされています。
しかし、こうした取り組みは、他地域での介入と比べて規模も範囲も限られています。
米国では、フォード財団とマッカーサー財団が、ニューヨーク大学に置かれたAI Now Instituteに資金を提供しています。同グループは、AIガバナンスに関する主要な報告書を2本発表し、AIをどのように開発し利用すべきかをめぐる国際的な議論を促すとともに、これらのセクターが重要な役割を果たせることを示しました。
AI Nowの成功は、慈善・非営利セクターがAIの開発と応用に知見を提供できることを示しています。研究機関を設立したり、長期的な取り組みにコミットしたりすることで、これらのセクターは、広がる公平性、不安定な労働、データ差別、そして和解に関する重要な議論と結び付いたAI戦略の策定を後押しできます。
カナダを先頭に立たせる
カナダには明確な選択肢があります。責任あるAIのリーダーとなる可能性を受け入れるか、倫理、公平性、正義が欠けた底辺への競争を正当化するリスクを冒すかです。
研究者に対し、カナダ権利自由憲章がAIの研究開発にどう関わるかについて、より適切な指針を示すことが第一歩となります。そこからカナダは、新技術を長く続く社会制度の中に位置付ける研究課題のために、公正で公平かつ安定した基盤を築くことができます。
カナダには、周縁化されてきた人々の声を優先する、より連携の取れた包摂的な全国的取り組みも必要です。こうした協議は、この分野でカナダを希望の光として位置付けるうえで重要です。
こうした措置を講じなければ、カナダは後れを取る可能性があります。欧州はすでに、データ保護に関する重要な新たなアプローチを起草しています。ニューヨーク市はこの秋、自動化された意思決定のガバナンスにおける世界的リーダーとなるためのタスクフォースを立ち上げました。これを契機に、市当局、理系・人文系の学者、地域団体と積極的な協議が行われることを期待します。地域団体には、Data for Black LivesからPicture the Homelessまでが含まれ、アルゴリズムの影響評価についても検討してほしいと思います。
こうした取り組みは、カナダが独自のガバナンス戦略を策定し、先住民の知識をそこにどう取り入れるかを検討するうえで、有益な背景となるはずです。
カナダが分野横断的な強固なAIガバナンスの国家戦略を策定できれば、世界をリードできます。
