AIは来年、オンラインセキュリティに対する最大の脅威と広く見なされている。
サイバー犯罪を自動化する可能性は、それを防ぐ能力によってのみ匹敵しうる。
政府、産業界のリーダー、市民社会が結集し、世界規模での協力が必要とされている。
AIの決定的な転換点は何か、と尋ねられれば、多くの人が2022年11月のChatGPTの一般公開を挙げるだろう。しかし、この技術に関わる別の進展が、人々の日常生活によりいっそう大きな影響を与える可能性がある。それは、サイバー攻撃を実行するためのAIの利用である。
AIは現在、来年のオンラインセキュリティに対する最大の脅威として広く見なされている。ハッカーがガードレールを回避して大手企業へのサイバー攻撃を仕掛けたとの報告は無視できず、各国政府はAIを利用したサイバー攻撃の規模と深刻度の急増に備えている。2023年に世界のリアルタイム決済取引の約49%を占め、2024年には約1,810億件のデジタル取引を処理し、総額2,330兆ルピー（2.56兆ドル）を超えたインドのような国では、その影響はこれ以上ないほど大きい。
サイバー技術を利用した詐欺はすでに広範囲に及んでいる。フォーラムの最新のグローバル・サイバーセキュリティ・アウトルックによれば、回答者の73%が、2025年に自身または身近な人が個人的な被害を受けたと回答している。多くのCEOは現在、これを最大のサイバーセキュリティ脅威として挙げており、ランサムウェアを上回っている。回答者の77%が、過去1年間にインシデントが増加したと報告している。
この傾向は南アジアで特に顕著であり、組織の85%が、サイバー技術を利用した詐欺やフィッシング攻撃のリスクが高まったと考えている。インド一国だけでも、過去6年間にサイバー詐欺や詐欺事件によって5,297.6億ルピー（58.1億ドル）を超える被害が出ており、そのうち2025年だけでも約1,981.3億ルピー（21.8億ドル）に上る。
AIモデルは合成音声を作成することが可能であり、それが電話を介したフィッシング攻撃に利用されている。ある英国のエンジニアリング企業は、この手口がビデオ通話で用いられた際に2,500万ドルを騙し取られた。世界で最も高度で回復力のある企業の経営者でさえこうした犯罪の被害に遭っているのであれば、中小企業は、メール詐欺、偽の請求書、なりすまし盗難などの問題をどの程度懸念すべきだろうか。高齢者など、特に脆弱な層に属する一般市民のリスクはどうだろうか。
詐欺は、サイバーリスクを結ぶ組織のような存在となっており、家庭、企業、国の経済に同時に影響を及ぼしている。一通の詐欺メールがデータ漏洩を招き、企業の業務停止につながる可能性があり、それが連鎖反応を引き起こしてサプライチェーンや国境を越えて波及し、収益だけでなく、デジタルおよび国際的なシステムに対する信頼をも損なう恐れがある。
AIがサイバー犯罪を自動化する可能性は、それを防ぐ能力によってのみ匹敵しうる。機械学習アルゴリズムは、例えば銀行業務における詐欺を検知できるが、行為には対応しても意図には対応できない。特にAIは、欺瞞のコストを下げる一方で、その信頼性を高めている。
近年の注目を集めた事例は、その重大さを物語っている。ディープフェイク動画では、アイルランドの大統領候補が選挙運動からの撤退を虚偽に発表する様子が映し出された。また、インドネシア国民は、同国の大統領が支援を受けるためのWhatsAppの番号へ誘導しているように見えるInstagram動画によって騙された。
しかし、詐欺は著名な事件だけで起こるものではない。小規模な詐欺は絶え間なく発生しており、その発生率はすべての経済圏で高まっている。世界経済フォーラムの調査によれば、北米では79%の人が詐欺の被害を受けたか、被害に遭った人を知っている。
AIは迅速かつ個別に調整されたコンテンツの作成を可能にし、犯罪者が前例のない効率で詐欺を大規模化し、個人に合わせて行うことを可能にしている。これは警告であると同時に警鐘でもあり、同等に高度なAIを活用した検知、認証、監視ツールの必要性を浮き彫りにしている。
今日のサイバー防御は、加速するサイバー攻撃の速度と巧妙さに追いついていない。しかし、そのままである必要はない。「グローバル・サイバーセキュリティ・アウトルック 」は、より優れたサイバー防御を妨げる3つの主要な障壁を挙げている。それは、国境を越えた規制の断片化、情報共有の不足、そして中小企業におけるサイバーセキュリティ能力の欠如であり、46%が重要なスキル不足を報告している。
今後開催される国連およびインターポールによる3月のウィーンでの世界詐欺サミットなどの取り組みは、サイバー犯罪を防止するための国際的な行動をより協調的なものへと移行させる兆しである。同様に、ニューデリーで開催されるAIインパクト・サミットは、AIが人類を進歩させ、包摂的な成長を促進し、共有する地球を守る未来を描くために開催されている。
人々を保護するには、人的、インフラ、技術の各レベルでの行動も必要である。デジタル安全教育、より強固な本人確認とドメインの監督から、被害が発生する前に詐欺を検知するAI対応のスクリーニングまで。孤立した行動では不十分である。詐欺が体系的なものになるにつれて、対応もまた体系的でなければならない。
これには、世界規模での協調的な連携が必要であり、政府、産業界のリーダー、市民社会を結集させ、国内にとどまらず国境を越えて行動することが求められる。そうしてこそ、デジタル・エコシステム全体にわたるサイバー技術を利用した詐欺を防止し、それから保護し、軽減するための集団的能力を強化することができる。
