AI時代に最も価値あるものとなる信頼

テクノロジーの進歩が指数関数的な速さで進むなか、その意図せぬ結果に対処することは、かつてないほど難しくなっています。デジタルイノベーション、とりわけソーシャルメディアで、私たちはそれを目の当たりにしてきました。そして、情報化時代を最も大きく変える可能性を秘めた人工知能については、私たちはようやくその影響を考え始めたばかりです。

デジタルイノベーションが予期せぬ結果をもたらすことは、数多く記録されています。言語に絶する暴力やその他の犯罪のライブ配信。陰謀論の蔓延。子どもの脳や心の健康を損なう依存症。政治や社会の分断を深める集団浅慮。文化的な部族主義、不寛容、社会の分裂を助長する風潮。選挙の公正性を損なう、外国勢力によるソーシャルメディアの操作。こうした動きはいずれも、デジタル技術に対する私たちの信頼を損ねてきました。

テクノロジー企業や政策立案者が、自主規制と政府による義務付けを組み合わせてこれらの問題に対処することは極めて重要です。それに加えて、国として私たちが取るべき関連する一歩があります。次のイノベーションの最前線である人工知能がもたらす広範な影響を予測するのは、今です。とりわけ、AIに何を任せられるのか、またどのように悪用される可能性があるのか、今すぐ取り組むことが急務です。

米国、中国をはじめとする世界の大国は、経済と国家安全保障上の利益を促進する形でAIを開発、活用しようと競っています。現時点では米国が優位にあるようですが、大きく先行しているわけではありません。中長期的にこの分野で競争するために必要なハードウェア、ソフトウェア、人材に投資が流れ込んでいます。テクノロジーに特化した市場調査会社Tracticaによると、初期の成功と抑えきれない楽観論を背景に、人工知能への世界の投資額は2025年までに3,000億ドルを超えると予測されています。

しかし、AI競争の勝敗を左右する要素は、技術力だけではありません。このテクノロジーが潜在力を発揮するには、とりわけ米国の経済や国家安全保障に関わる用途において、企業や政策立案者が、社会としてAIに何を任せるべきかという基本的でありながら難しい課題に答えなければなりません。これは、人工知能に関する国家戦略を策定するうえで中心となる課題です。何よりも、この変革をもたらすテクノロジーへの信頼を築く戦略でなければなりません。成功に欠かせない道筋は三つあります。

第一に、AIが機能する、つまり今日のあらゆるAIの基盤である数学的アルゴリズムが適切に役割を果たすと信頼する必要があります。そのためには、アルゴリズムを訓練するための大量のラベル付きデータと時間が必要です。また、少なくとも導入の初期段階では、アルゴリズムの利用者がその構築に関わるべきだということでもあります。例えば、すべてのデータを見てから評価することに慣れた情報分析官は、少なくとも当初は、自分が見ているものをアルゴリズムに認識させる過程に深く関わり、正解を強化しながら誤りを修正していく必要があるかもしれません。人工知能によって分析が実際に改善したと利用者が実感すれば、AIが適切に機能していると信頼するようになるでしょう。

国家地理空間情報局（NGA）では、画像の変化を検知するためにアルゴリズムを活用する大規模な取り組みが進められています。これは、多くの場合、政策立案者に戦略的警告を提供するための分析過程における初期段階の一つです。NGA分析局長のスー・カルウェイト氏によると、試験導入プログラムによって、アルゴリズムの有効性が実証されています。NGAは組織全体での活用に向けて規模を拡大しており、コンピュータービジョン技術の進歩に伴い、情報分析への支援が今後も続くと期待されています。支援の範囲は変化検知にとどまらず、物体の検出、識別、分類、そして最終的には文脈化にまで広がります。

カルウェイト氏が最もよく受ける質問の一つは、NGAの分析官が、何十年も自分たちが担ってきた仕事をAIに任せることを受け入れるかどうかです。「どこを見るべきかを示したり、関心のある何かが画像に写っているという手がかりを与えたりするテクノロジーなら、分析官は誰でも望んでいると、はっきり申し上げられます」と同氏は語ります。試験導入プログラムでAIを活用することで、より高度な認知作業に早く取り組めるようになり、分析官はこれを歓迎しています。分析官に求められるのは情報を伝えるだけでなく、洞察を提供することです。このテクノロジーにより、アルゴリズムが検知した変化の意味に集中できます。変化を見つけるために、膨大な画像を何時間もかけて調べる必要はありません。

AIへの信頼を築く第二の道筋は、AIが私たちの価値観を共有する、つまり同じ状況で私たちがするように、確実に振る舞うことです。米国の官民両部門では、AIが精査するデータを最善の形で保護、整理、活用する方法を含め、AIの倫理的枠組みを定める取り組みが本格化しつつあります。例えば、研究者たちはアルゴリズムの偏りを抑える解決策に取り組んでいます。

同時に、政策立案者は介入の可能性を示しています。民主党のコーリー・ブッカー上院議員とロン・ワイデン上院議員は最近、企業にAIシステムの偏りを監査させ、結果を歪める要因があれば是正を求める法案を提出しました。この法案は、連邦取引委員会に「極めて機微な」システムに関する規則の策定を指示し、そうしたシステムの評価に加え、入力データに対するセキュリティとプライバシーの保護を義務付けるものです。社会としてAIが私たちの価値観を共有すると信頼するには、こうした分野でさらに多くの取り組みが必要であることは明らかです。

最後に、レーガン大統領が教えたように、真に信頼するには検証しなければなりません。つまり、アルゴリズムがどのように答えを導き出すのかを理解する必要があります。残念ながら、学術界や産業界の研究者たちはすでに、AIに誤ったものを「見せる」方法を特定し始めています。例えば、訓練中にAIを汚染し、人間ならだまされないような特定の位置に貼ったステッカーによって、自動運転車が停止標識ではなく速度制限標識を認識するよう仕向けることができます。結果は壊滅的なものになりかねません。サイバーセキュリティでリスクの経路を指す「攻撃対象領域」と呼ばれるこうした新たな要素は、テクノロジーの運用開始前に理解し、軽減しなければなりません。AIの判断根拠をより透明にすることは、とりわけ悲惨な誤りが、欠陥のあるアルゴリズム、悪意ある行為者、あるいは避けられない不運のどれに起因するのかを理解するうえで欠かせません。AIを説明可能にするためにすでに進められている取り組みは、このテクノロジーを日常生活や国家安全保障に欠かせないツールとするため、加速させる必要があります。要するに、私たちは信頼しそして検証できなければなりません。

今日、これらの分野で前進する好機があります。米国政府は、わずか2年前に多くの人が予想していたよりも速いペースで人工知能の導入を進めています。同時に政策立案者は、国家AI戦略が必要だという認識を共有しつつ、生命に関わる判断には常に人間が関与すると私たちに約束しています。

しかし、テクノロジーの進歩があまりに速いため、そう遠くない将来、サイバー侵入や重要システムへの攻撃があまりに速く発生し、コンピューター並みの速度で対応しなければならない日が来ることは容易に想像できます。人間が判断する時間はないかもしれません。その時、テクノロジーへの信頼が不可欠となります。設計段階から信頼を組み込まなければなりません。ビジネス、テクノロジー、科学、法律、政策立案に携わる専門家が、安全性、有効性、倫理性、説明責任、透明性への信頼を組み込んでAIの導入を促進する国家戦略に合意すべき時です。