人工知能はすでに、Netflixの視聴の好みや、住宅ローンを組む適性、さらには就職希望先の雇用主との相性など、あなたの将来を左右する判断に役立っています。しかし少なくとも今は、法廷でAIに有罪か無罪かを判断させるのは行き過ぎだ、という点で意見が一致するのではないでしょうか。
懸念されることに、すでにそうなっている可能性があるようです。米国の最高裁判所長官ジョン・ロバーツ氏は最近、あるイベントに出席した際、「人工知能を搭載したスマートマシンが、法廷での事実認定を支援したり、さらに議論を呼ぶことに、司法判断を行ったりする日が来ると思うか」と尋ねられました。ロバーツ氏はこう答えました。「その日はすでに来ており、司法が物事を進める方法に大きな負担をかけています」
ロバーツ氏が念頭に置いていたのは、エリック・ルーミス氏の最近の事件かもしれません。同氏は少なくとも一部は、民間企業の非公開の専有ソフトウェアによる勧告を受けて、懲役6年の判決を言い渡されました。前科のあるルーミス氏は、盗難車で警察から逃走した罪で判決を受け、勧告の根拠となったアルゴリズムを本人も代理人も精査したり異議を申し立てたりできなかったため、適正手続を受ける権利が侵害されたと主張しています。
報告書を作成したのはCompasというソフトウェア製品で、これはNortpointe Incが裁判所向けに販売しているものです。このプログラムは、AI研究における新たな潮流の一例です。裁判官が法廷で「よりよい」、あるいは少なくともデータをより重視した判断を下せるよう支援することを目的としています。
ルーミス氏の報告書の具体的な内容は非公開のままですが、同氏の人生や行動、再犯の可能性を数値化したグラフや図が多数含まれていると考えられます。年齢、人種、ジェンダー・アイデンティティ、閲覧履歴、そして、さあ……頭蓋骨の計測値なども記載されているかもしれません。要するに、私たちには分からないのです。
分かっているのは、この事件の検察官が裁判官に伝えたところでは、ルーミス氏には「暴力のリスクが高く、再犯のリスクも高く、公判前のリスクも高い」とされたことです。量刑判断ではよくある説明です。裁判官も同意し、ルーミス氏に「Compasの評価により、地域社会にとってリスクの高い人物と特定された」と告げました。
ウィスコンシン州最高裁判所はルーミス氏を有罪とし、Compasの報告書が判断に有益な情報をもたらしたと述べました。ただし、報告書がなくても同じ刑を言い渡していただろう、と付け加えています。しかし、それをどうすれば確実に分かるのでしょうか。Compasのような万能の「スマート」システムが裁判官の判断を示唆するとき、どのような認知バイアスが働くのでしょうか。
利用実態は不明
ここではっきりさせておきましょう。ウィスコンシン州の裁判所がしたことに「違法」な点はありません。ただ、こうした状況ではよくない考えだということです。他の裁判所も同じことを自由に行えます。
懸念されることに、量刑判断でAIやその他のアルゴリズムがどの程度使われているのか、実際のところ私たちには分かりません。私自身の研究によると、複数の管轄区域でCompasのようなシステムが非公開の試験運用にかけられていますが、提携の詳細や使用場所、時期を公表できないとのことです。また、同様のシステムの開発を競うAIスタートアップが複数あることも分かっています。
しかし、法におけるAIの活用は量刑判断に始まり、そこで終わるわけではありません。捜査の段階から始まっています。VALCRIというシステムは、すでに開発されており、犯罪分析官の業務のうち労力のかかる部分をわずか数秒で処理します。テキスト、検査報告書、警察の文書など、膨大なデータを調べ、さらなる捜査が必要と思われる点を見つけ出します。
英国のウェスト・ミッドランズ警察は、VALCRIを試験運用する予定です。匿名化した約650万件の記録を使い、今後3年間にわたって実施します。ベルギーのアントワープでも、警察による同様の試験が進行中です。しかし、膨大なデータセットを用いたこれまでのAIやディープラーニングのプロジェクトには、問題がありました。
恩恵を受けるのは一部の人だけ？
コピー機からDNA型鑑定、高度な監視技術まで、テクノロジーは法廷に多くの恩恵をもたらしてきました。しかし、どのような技術も改善につながるとは限りません。
捜査や量刑判断にAIを使えば、時間と費用を節約できる可能性がありますが、厄介な問題も生じます。ProPublicaによるCompasの報告書は、明らかにしました。フロリダ州ブロワード郡では、黒人の被告は白人の被告よりも「再犯率が高いと誤って判定される可能性がはるかに高かった」のです。バース大学のコンピューターサイエンス教授、ジョアンナ・ブライソン氏による最近の研究は、最も「高度な」AIでさえ、それを作った人々の人種やジェンダーに関する偏見を受け継ぐ可能性があることを示しています。
さらに、人間ならではの事柄について、意思決定の一部をアルゴリズムに委ねる意味は何でしょうか。なぜ私たちは、同じ社会の一員である人々で構成される陪審員をわざわざ選ぶのでしょうか。法の基準は完璧さではなく、私たち人間の能力で実現できる最善の判断です。私たちは間違いを犯しますが、時間をかけ、経験を積むなかで、同じ間違いを繰り返さない方法を学び、制度を絶えず改善していきます。
Compasやその類似システムが象徴するのは、法制度の「ブラックボックス化」です。これは断固として阻止しなければなりません。法制度は情報の継続性、透明性、検証可能性に支えられています。AIスタートアップが、できるだけ速く、安く、独占的に製品を提供するために競争し、司法制度を底辺への競争に駆り立てるような社会を、私たちは望んでいません。AIを見守る人々のなかには、何年も前からこうなると予測していた人もいますが、それが今現実となっています。これはひどい考えです。
Compasをオープンソース化し、検証可能にすれば改善につながるでしょう。しかし、アルゴリズムに責任を委ね始める前に、まず司法制度の基準を引き上げなければなりません。AIを投資しない口実にしてはなりません。
AIには大きな利益を生む可能性がありますが、真の機会も数多くあります。正しく活用し、その恩恵がすべての人に行き渡り、ピラミッドの頂点に権力をさらに集中させないようにできれば、多くのことをよりよい方向へ変えられます。
こうした問題すべてに対する完璧な解決策を、今の私は持ち合わせていません。しかし、法におけるAIの役割を考える際には、どのような状況で、何の目的に使われ、どのような実効性のある監督を受けているのかを問わなければならないと分かっています。これらの問いに確かな答えが出るまでは、十分に懐疑的でいてください。少なくとも、とても優秀な弁護士を知っておきましょう。
