AIは、これまでに目撃されたいかなるものよりも大きな革命を引き起こしつつあります。
企業や消費者にとって、概念的なものと現実的なものを明確にできなければ、大きな乖離に直面することになるでしょう。
私たちは、潜在的な警告信号を見極めて対処し、ハッカーに悪用される格好の標的とならないよう、AIについて自ら学ぶ必要があります。イノベーションや興奮が、セキュリティとレジリエンスを上回ることを許してはなりません。
2023年、世界全体のベンチャーキャピタル投資は、38%急落した一方で、AIスタートアップへの資金調達は急増し、500億ドルを超えました（2022年比9%増）。ウォール街は、時に新奇なものに飛びつく病にかかることもありますが、一つだけ正しいことを言っています。それは、AIが一時的な流行にとどまるものではないということです。次のゴールドラッシュと見るか、World Wide Web以来最も変革的なテクノロジーのトレンドと見るかにかかわらず、AIは、これまでに目撃されたいかなるものよりも大きな革命を引き起こしつつあります。
しかし、私たちは重大な転換点に立っています。企業や消費者にとって、概念的なものと現実的なものを明確にできなければ、大きな乖離に直面することになるでしょう。「本物の」AIは理解されることがほとんどなく、空想的なものから終末論的なものまで、本能的な反応を引き起こすことがしばしばあります。AIがあらゆる産業や分野に浸透し、日常生活の隅々にまで広がるにつれ、深刻な懸念が提起されていますが、それらは誤解され、無視されています。
先ほどの例えに戻ると、ゴールドラッシュは富を得る素晴らしい機会をもたらした一方で、その全体的な影響を理解できなかったこと、そしてそれがもたらすリスクを規制または定量化しようとする試みが不十分だったことにより、深刻な影響を招きました。悪党のような望ましくない人々を引き寄せ、河川を詰まらせ、大規模な森林破壊を引き起こし、採掘過程で生じた化学物質によって土壌を汚染するなど、環境に深刻な影響を与えました。そして最終的には、商品価格の上昇とインフレ的ショックをもたらしました。World Wide Webの例で言えば、もし企業のリーダーや一般消費者がインターネットの使い方を学ばず、その基本的な目的やそれがどのように 機能するのかさえ理解しなかったとしたらどうでしょうか。
注目を集める見出しにもかかわらず、特に私たちがその限界を理解する努力をしなければ、AIだけでは世界の最も重大な問題を解決することはできません。より高い抽象度で業務を行い、より多くの機能にアクセスできるようになる一方で、OpenAIのCEOであるサム・アルトマン氏は、2024年1月にダボスで開催された世界経済フォーラムにおいて、AIは「生死に関わる状況には向いていない」と述べています。しかし、誇大な期待が高まるにつれ、組織は競争優位を維持するために、いかなる犠牲を払ってでもAIを事業に組み込もうと競い合い、保護的なセキュリティ対策を組み込んだり、当初から潜在的リスクを分析したりすることを怠りがちになっています。
AIのリスクを誤解し、評価する際に注意すべき「警告信号」は数多くありますが、組織の規模や業界を問わず、最高情報セキュリティ責任者が最優先で念頭に置くべきは以下の点です。
1. AIの世界では、データこそが唯一の通貨であり、最も多くのデータを持つ組織が勝者となります
AIだけでは、世界の最も重大な問題を解決することはできません。AIの成功裏な導入と利用は、データの量と質に左右されます。しかし、質の高いデータを大量に収集することは、AIのライフサイクルの終わりではありません。組織はまた、データを抽出し、それを洞察へと変換できなければなりません。かつてのAI構築競争は、進化しつつあります。競合他社を上回るには、組織は、幻覚やモデルのドリフトを回避するために、最新かつ関連性の高いデータで、AIモデルを継続的に訓練しなければなりません。
フォーラムは、世界のサイバーセキュリティ課題にどのように取り組んでいますか？
サイバーセキュリティセンターは、リーダーが一堂に会し、進化するサイバーリスクとその体系的な影響を理解するための信頼できるプラットフォームを提供しています。同センターは、ますます相互接続が進むデジタル社会において、理解と信頼の構築に焦点を当てています。
セクター横断的な協力と洞察の共有を可能にすることで、同センターは、パートナーがサイバーレジリエンスを強化し、集団的な対応を必要とする課題に対処することを支援しています。
2. AIを理解するセキュリティ専門家と、理解していない専門家との間の知識格差が、脅威アクターへのパワーバランスの変化を招く主な要因となるでしょう
攻撃者がAIの利用によって優位に立っているかどうかは、問うべき誤った問いです。AIは今後も存在し続けるため、問うべき正しい問いは、セキュリティリーダーや専門家が必要なスキルを備えているか、あるいはスキルアップや、技術史上最大の革命となりつつあるものへの対応方法の学習に時間を投資するかどうかです。このテクノロジーの力を活用することも、それに対して防御することも、それを理解し、その限界を把握する能力にかかっています。セキュリティ業界がAIとその潜在的な悪意ある利用事例の謎を解き明かすことができなければ、今後数年間は脅威アクターにとって好都合な時代となるでしょう。
3. AIと戦う唯一の方法はAIを用いることですが、まずは基本を習得しなければなりません
AIに対する防御は、最終的には、索引化された人類のあらゆる知識に対する防御を意味します。情報共有は、これまで以上に桁違いに速く、効率的に交換されるようになっています。セキュリティの専門家は、無限の情報の時代において組織を守らなければならず、かつてないような課題に直面しています。しかし、業界がこれまで基本的な事柄を適切に行うことに苦労してきたのであれば、AIを用いて課題を解決する方向へ急激に舵を切ったとしても、概ね効果は限定的でしょう。攻撃を緩和する最善の方法は、セキュリティにおける基礎的な統制が確立されていることを確実にすることです。私たちはAIのような新奇なものを追い求めがちですが、AIに対する最善の防御は、強固な基礎的統制なのです。
4. 設計段階からのセキュリティに関する議論は、単に包含するだけでなく、AIツールやモデルに大きく焦点を当てるよう進化するでしょう
AIの実運用に関する議論は、モデルが開発され存在するようになった後に、ようやくセキュリティの領域に踏み込むことが多いのです。例えば、モデルの完全性を維持することなどです。しかし、AIが組織や重要インフラの事業運営、業務遂行、サービス開発などの将来において不可避なものであるならば、セキュリティは当初から組み込まれなければなりません。AIは、サイバーが従来から重視してきた多くの懸念に対処する形で、設計・実装されなければなりません。
しかし、AIに関する議論でセキュリティが扱われるのは、ガバナンスのプロセスを構築する際に限られており、モデルの製造、運用、調整の段階で扱われることは決してありません。モデルの推論はしばしば見落とされがちですが、セキュリティの重要な要素です。多くの企業のリーダーは、AIが即座に、自動的に問題を解決し、魔法のように機能すると想定しています。例えば、モデルが「正しいこと」をするかどうかは正確性に依存し、正確性はモデルの訓練と幻覚の可能性の低減に依存します。AIにおいて創造性やスピードを正確性よりも優先し続ければ、大規模言語モデルは幻覚に縛られ続けるでしょう。構築、テスト、運用というライフサイクル全体にわたってモデルを保護することは、今後数年間、セキュリティチームや規制当局にとって大きな焦点となるでしょう。
私たちが、事業の進め方を大きく変える新しいテクノロジーを生み出す際には、しばしば過度の期待や楽観的な姿勢が見られ、リスクを考慮せずに、提示された機会のみに焦点を当てがちです。AIもこのサイクルの犠牲となっています。しかし、良いニュースは、AIは今もなお「煙と鏡」の段階にあり、その力を試し、活用事例を模索している段階だということです。私たちは、潜在的な警告信号を見極めて対処するために、今すぐこのテクノロジーについて自ら学ぶ時間を取るか、あるいはハッカーに悪用される格好の標的となるか、そのいずれかを選ぶことができます。結論として、イノベーションや興奮が、セキュリティとレジリエンスを上回ることを許してはなりません。
