犯罪組織は、大規模な詐欺作戦においてAI搭載技術をますます利用しており、脆弱な人々を守り、犯罪ネットワークを阻止するために、より強力な安全策の必要性が浮き彫りになっています。
AIの説明責任に関するローマ教皇レオ14世の画期的な回勅は、AIが最も脆弱な人々を守る形で開発・展開されうる方法をめぐる、世界的な議論の広がりをさらに後押しするものです。
AIの能力が急速に進歩する中、政府、企業、市民社会には、ガバナンスの枠組みを強化し、悪用に対する実効的な安全策を構築する機会があります。
人工知能は説明責任を伴って開発されなければならないという、ローマ教皇レオ14世の警告が、画期的な回勅を通じて示されたことは、象徴的なタイミングで行われました。AIの能力がより手に入りやすくなる中、犯罪者はそれを既存の詐欺、人身取引、オンライン上の搾取の手口に取り込んでいます。こうした動きは、イノベーションには実効的な安全策と説明責任の仕組みが伴わなければならないことを改めて示しています。
教皇の警告は、政策立案者、企業経営者、市民社会組織が共有する、より広範な懸念を反映しています。すなわち、ガバナンスと説明責任は、技術力の進歩と並行して発展しなければならないという懸念です。
AIへの熱狂が広がる中、課題は、AIが経済的・社会的利益にもたらす膨大な可能性に対して、悪用を防ぎ、脆弱なコミュニティを守るための同等に強固な取り組みが伴うようにすることです。
善良で合法的な企業の成長と生産性を飛躍的に高めることができるAIツールは、最も残虐で不当な企業に対しても、まったく同じことをもたらし得ます。実際、AIツールはすでにそのために使われています。
私にとって、警告のサインは明白です。国際司法ミッション（IJM）の創設者兼CEOとして、私はこの30年間、世界各地の司法制度と連携するチームとともに、最も脆弱な市民を暴力や虐待から守る活動に取り組んできました。私たちの活動は、深刻な犯罪行為のすぐ近くに身を置くものであり、AIがすでに最も残虐な犯罪活動をいかに強化しているかを、独自の視点から見せてくれます。
AIが犯罪の拡大を加速させている仕組み
東南アジアの私たちのチームからは、昨年、犯罪組織がAIを活用した技術を使い、産業規模のオンライン詐欺作戦を通じて、世界中の何も知らない市民から500億〜800億ドルを奪ったことがわかっています。これは現代の奴隷制によって支えられている作戦です。何千人もの人身取引の被害者が警備された施設に閉じ込められ、24時間体制の交代制で、絶え間なくオンライン詐欺を行うパソコンに身をかがめています。IJMはこうした施設から逃れた何千人もの生存者を支援しており、詐欺のノルマを達成できなければ殴打、飢餓、電気ショック、性的暴行を受けたと、生存者たちは私たちに語っています。
昨年、これらの詐欺作戦が生み出した利益は、その多くが拠点を置くミャンマー、カンボジア、ラオスの3か国の国家予算の合計を大きく上回りました。AIを活用した技術は、AI翻訳ツール、音声クローン、ディープフェイク動画、そして高度に拡張可能な人材募集技術といった機能を通じて、これらの犯罪組織の力をさらに強めました。
もう一つの残虐で急拡大している技術を利用した犯罪は、ライブストリーミングによる児童性的搾取であり、AIによってこれもさらに悪化しています。米国や英国などの性犯罪者は、「仲介者」に料金を支払い、地球の反対側にいる子どもへの生々しい性的虐待を、ウェブカメラの前で指示させています。IJMの最近の調査では、フィリピンで1年間にオンラインプラットフォーム上で性的虐待を受けた子どもが50万人に上ることが明らかになりました。
AIはまた、人身取引業者が世界中の強制労働産業へ被害者を勧誘する方法を変化させ、その速度を加速させています。AIを用いた偽の求人広告は、今ではきわめてマイナーな言語にまで翻訳でき、これまで接触されることのなかった人々を標的にできます。AI搭載のチャットボットは、説得力のある偽の求人情報を大量に作成し、特定の属性の人々に合わせて欺瞞的なメッセージを調整しています。
ローマ教皇レオ14世のAIに関する警告への対応
良いニュースは、何をすべきかが分かっているということです。回勅においてレオ14世が呼びかけた「強固な法的枠組み、独立した監督、情報に通じた利用者、そして自らの責任を放棄しない政治制度」は、地球市民として私たちに必要な出発点です。どの時代にも、生産性や人間の繁栄を加速させる一方で、同時に人々の生活を破壊するために悪用されうる新技術が登場してきました。医薬品、原子力エネルギー、高速交通は明白な例です。どの時代においても、将来を確実に守るためにリーダーたちは二つのことを行いました。すなわち、生み出される危険に対して責任を負い、それを選ばなかった人々に対して説明責任の仕組みを構築したのです。
企業のリーダーは責任を負わなければなりません。テクノロジー分野のリーダーはAIツールを開発し、その能力を拡大するにあたり、犯罪者がそれをどのように利用するかを理解する責任を負わなければなりません。また、法執行機関と協議し、利用を最大化することに注ぐのと同じくらいの知恵と情熱を、その悪用を抑えることにも注がなければなりません。
また、製造する機器について「安全設計（safe-by-design）」の基準を約束し、搾取的な利用が起きる前に阻止すべきです。例えば、（AIを活用した）機器内蔵の検知技術は、機器が性的行為で搾取された思春期前の子どもを撮影しようとしていることを検知し、この世界的に違法なコンテンツが作成されないよう、単に撮影を許可しないようにすることができます。
政府は説明責任を確立しなければなりません。これまで、どの産業も、いずれ悪用、虐待、または犯罪利用による深刻な公共の被害に対する規制上の歯止めに直面することなく、望むままに強力な製品を一般に投入することを許されてきた産業はありません。歴史が残してきた痛切な後悔は、そうした歯止めが軽視されている間に、罪のない人々の命が奪われ、無駄にされてきたことです。AI技術分野だけが、この歴史の常識的な教訓の例外として特別扱いされるべき合理的な理由はありません。実際、規制上の要件がなければ、企業のリーダーたちは、市場の力が、子どもを守るものを含め、歯止めを取り除く方向に働くことを内々に認めています。
AIガバナンスに対する共有の責任
真実は、今すぐ責任を果たすために必要な知識は十分にあるということです。
私はルワンダの虐殺について国連の主任調査官を務めた者として、大惨事を止めるには間に合わず、遅すぎた到着がどのような感覚をもたらすかを知っています。
その経験から、早期警告のサインに基づいて行動することの重要性を学びました。AIは人類の進歩に非常に大きな機会をもたらしますが、同時に搾取の新たな経路も生み出しています。私たちの前にある課題は、ガバナンス、説明責任、そして保護がイノベーションに遅れずについていくようにすることです。
ルワンダの教訓は、避けられないものではなく、予防の教訓です。社会は、新たなリスクを早期に認識し、緊急性、協力、先見性をもって対応したときに最も強くなります。AIの急速な進化は、まさにそれを実行する機会を私たちに与えています。
いつの日か歴史は、私たちの孫の世代による法廷を招集し、単刀直入にこう問うだろうと私は信じています。AIと人類の未来を左右する重大な選択がなされていたとき、あなたはどこにいたのか、と。私たちが責任を果たし、彼らの未来を守るための説明責任を築くために立ち上がり、そして間に合うように立ち上がったと言えることを願います。
