私たちの生活はデータによって支配されている。企業が私たちの欲しいものを把握するためだけでなく、何を覚えておくべきか、何が必要で何を無視できるかを見分けるためにもデータが役立っているからだ。こうした判断はすべてパターンを生み出し、そのパターンを集計すると、私たち自身の姿が浮かび上がる。アレルギーの有無を事前にレストランへ知らせたり、好みの服のサイズを小売店へ伝えたりするなど、そうしたパターンが私たちについてくる、あるいは私たちより先に送られる世界は、今や非常に現実味を帯びており、それをSFと呼ぶことは、想像力の欠如というより、認識の欠如を露呈するにすぎない。
AIがもたらす恩恵により、私たちの多くの選択はより容易で便利になっており、その過程で顧客の選択の領域における競争も激しくなっている。こうした変化が進むにつれ、問題はAIがどの程度私たちの選択の枠組みを決めているかではなく、むしろAIがどのように私たちの選択を形作っているかである。そのような世界では、私たちの行動がいつ、誰によって形作られているのかを理解する必要がある。
確かに、私たちの大半は、自分の選択がAIによって形作られる世界での生活に、かなり満足している。実際、私たちはすでにそのような世界に生きている。検索エンジンから交通の円滑な流れに至るまで、日常の多くの利便性は、バックエンドが提供する速度の上に成り立っている。AIとその統治について考える際に私たちが自問すべき問いは、どの程度、そして どのように影響を受けているのかがわからない世界で、私たちは安心して暮らせるかどうかである。
行動バイアスか、それとも行動の手がかりか？
AIは、顕微鏡が生物学にもたらしたものと同じことを、行動の理解にもたらすことができる。
ソフトウェアは、私たちが考えもしないような行動パターン上の傾向を発見し、友人や家族でさえ知らない特性を特定できる段階にすでに到達している。ターゲット社が（娘の支出の変化を検知した後に）ベビー用品の広告を送り始めたことで、娘の妊娠を知った父親の、悪名高いが出典の定かでない逸話が、その片鱗を示している。[i]
私たちの生活は、行動を駆り立てることを意図した確率的な前提によってすでに支配されている。今や私たちは、自分が理解していないアルゴリズムに、どの程度まで人生を形作られることを許容するのかを、率直に問い、正直に答える必要がある。さらに重要なのは、これらのアルゴリズムが誤った判断を下した場合、あるいは意図的に操作的な判断を下した場合にそれを指摘するため、誰がその監視を担うべきかという点である。
より多くの企業がAIを利用し、その洞察の複雑さが増し続けるにつれ、理解を求める権利、すなわち情報を提供される権利を超えた隔たりに直面することになるだろう。それは、そもそも違反が発生したのか、いつ、そして発生したのかどうかに関する隔たりである。
デジタル上の存在感が増し、その存在感が、電子政府の将来に関する公的な方向性と、私たちが自らの関心とどう関わるかに関する民間の方向性の双方によって引き寄せられるなか、意味のある統治には、不可欠な第一歩を含める必要がある。すなわち、私たちのデータがどのように利用され、誰が保有し、いつ利用されているのかを知る権利である。
行動と技術が、これまでにない速さで接続しつつあるもう一つの例は、チャットボットが私たちにもたらすことが示されてきたものを観察することで見えてくる。すなわち、感情的な結びつきを生み出す可能性であり、それは操作的な目的に利用されうる。[ii]自然言語処理の発展が高度なロボティクスと組み合わさるにつれ、触れ合いや温もり、安らぎによってそうした絆を築く可能性も高まっている。特に、私たちが孤独の最も大規模な蔓延を経験し、英国が文字どおり孤独担当大臣を任命するに至っている世界では、なおさらである。
モノのインターネットの拡大に伴い、機械同士のデータが増えるにつれ、優先的なアクセスを持つ企業は、私たち自身が理解していないかもしれない行動パターンの、ますます細部にわたる側面について、より多くの洞察を得ることになる。そしてそこには、行動を巧みに誘導する強力な能力が伴う。良質なデータとは量だけの問題ではなく、正確性の問題でもある。IoTが成長するにつれ、私たちは私たちに関するあらゆる情報を、企業に銀の皿に載せて差し出しているのである。
それでもなお、問題は量ではなく、その量を管理する分析能力の非対称性であり、つまり価値の獲得における非対称性であると主張することもできる。その結果、一部の企業は私たちを理解するだけでなく、特定の選択に最も効果的に影響を与える方法を知るところまで、私たちの行動を予測できるようになっている。ビッグデータの時代においては、最良のビジネスとは洞察のビジネスなのである。
説明責任：誰が私たちを見守っているのか？
説明責任を構築するうえでの第一の問いは、AIによってより自律的になった意思決定のプロセスにおいて、人間を意思決定のループの中にどのように留めるかである。次の段階では、理解への権利、すなわちアルゴリズムがなぜ別の決定ではなくある決定を下したのかを知る権利の中で、説明責任を維持する必要がある。
これを実現するための新たな提案がすでに現れている。たとえば、特定のAIプロジェクトが企業の競争力に関わる独自の側面である場合、AIが直面するあらゆる可能な選択を評価するために、反事実的システムを用いることができるかもしれない。[iii]しかし、ブラックボックスを壊さずに決定を可視化するシステムでは、そのアルゴリズムが別の決定ではなくある決定を下した根拠を示すことはできないだろう。
それでも問題はさらに深い。透明性モデルの問題は、私たちが何を探すべきかを必ず知っているという前提にある。つまり、企業によるデータ利用からの離脱を選択する必要がいつ生じるかを、私たちが知っているという前提である。近い将来、AIがいつ私たちに影響を与えているのかを、私たちが自力で理解できなくなる可能性もある。
これは根本的な問題につながる。すなわち、AIを統治するには、AIを使う必要があるかもしれないという問題である。
私たちは、AIが明白な方法で私たちに影響を与えている時を理解するためだけでなく、企業が私たちの行動に関する微細な理解を活用しうる、新たに現れつつある方法を理解するためにもAIを必要とするだろう。既存の法的枠組み、既存の政治制度、そして既存の説明責任の基準が、操作的な目的でのAIの利用を理解し、予測し、捕捉する能力は、著しく不足している。
アルゴリズムによる共謀は、すでに問題となっている。価格カルテルは、事前の合意なしに消え去り、当初の申し立てを回避しうる、一時的な価格設定の問題へと取って代わられつつある。[iv]共謀が市場によってではなく、個々の集団の行動を追跡し、微細な価格変更を組織することによって組織される世界を想像することができる。
当然ながら、疑問が生じる。AIを監視するために使われるAIを、誰が統治するのか。監視する側と監視される側の間で共謀が生じていないことを、どのように知ることができるのか。企業のAIに対する透明性の要求を最小限に抑えるために、統治を行うAIにはどのような透明性の仕組みが必要になるのか。
AIガバナンスの未来は、周縁において決まるだろう。私たちが注意を払うべきことは、共謀や操作の構造が移り変わることよりも、むしろ行動と、意思決定を形作るための影響点の最小限の数を見つけ出す有能なAIの能力である。
私たちは、価格カルテル、共謀、操作に関する前提や信念を、痛いほど明確にするための対話を持つ必要がある。AIの時代において、私たちは曖昧であることを許されない。
