本記事の一部は、もともとファーウェイの雑誌『Transform』に掲載されたものです。
人工知能（AI）ほど多くの恐怖心を呼び起こす技術はほとんどありません。
しかし、過度な慎重さは別のリスクを生みます。サイバー犯罪者が悪意ある目的でAIの利用を全速力で進める一方で、ほかの人々は慎重に歩みを進め、最後の立法者、懐疑論者、導入の遅い人々までもがAIは恐れるのではなく信頼すべきだと完全に納得するまで待ち続けているのです。
これらの課題を解決する鍵は国際協力です。AIのセキュリティ上の影響は国境を尊重しないためです。
人工知能（AI）ほど多くの恐怖心を呼び起こす技術はほとんどありません。アラン・チューリングが1948年にその考えを提唱して以来、機械が創造主を出し抜き、地球の主導権を握ったらどうなるのかと、人々は考え続けてきました。AI研究者自身でさえ不安を抱いています。2023年5月には、イーロン・マスク氏を含むグループが「6か月間のモラトリアム」を求め、「GPT-4より強力なAIシステム」のすべての訓練を停止するよう呼びかけました。
法的な保護措置があれば、このような大惨事は回避できるかもしれません。最初のAI規制はすでに公表され、パブリックコメントを待っている段階です。しかし、これらの草案の一部は、実現不可能なほど高い基準を設定しています。例えば、2021年に提案されたAIに関するEU規則案は、機械学習に使用されるすべてのデータセットが「誤りのない」ものであることを求めています。
そのようなデータセットはほとんどありません。MITによるレビューでは、主要なデータセット10件を調査した結果、平均誤り率は3.4%であることがわかりました。これは数万件の誤りに相当し、その中にはラベルを誤って付けられた画像、テキスト、音声も含まれます。
テクノロジー企業は、EUの規制に対する懸念をすでに表明しています。Googleは外交的な表現で、同社は「政策論議において、AIを使用しないことによる機会費用が十分に反映されていないことを懸念している」と述べました。
立法者が慎重になるのは当然です。しかし、過度な慎重さは別のリスクを生みます。サイバー犯罪者が悪意ある目的でAIを利用することに全速力で取り組む一方で、善意ある関係者は慎重に進み、最後の立法者、懐疑論者、導入の遅い人々までもがAIは恐れるのではなく信頼すべきだと完全に納得するまで待ち続けています。この二重の道筋、すなわち悪意ある者が素早く動く一方で善良な者が足踏みをするというアプローチが続けば、結果は深刻なものになりかねません。
世界経済フォーラムは、人工知能の倫理的な開発をどのように確保していますか？
ハッカーはすでにAIを悪用しています
ハッカーはすでにAIを使い、ボットネットの作成、パスワードの推測、CAPTCHAシステムの突破、違法な自動音声通話、そのほかのさまざまなサイバー上の悪事を行っています。彼らは巻き添え被害を気にせず、認証、テスト、規制順守について考慮する必要もありません。残念ながら、現時点では犯罪者が法を順守する人々よりも、より高度で革新的な方法でAIを活用しているということです。その結果、一部、そしておそらく多くの人々が、現在以上にAIへの不信感を強めることになるでしょう。
しかし、善良な関係者は悪意ある者よりも多く、長期的に見れば、AIが社会に利益をもたらす形で活用される可能性は高いといえます。その間にも、AIへの信頼を築くために何ができるでしょうか。
簡単に言えば、現時点では、AIに対する完全な信頼の達成を目指すべきではありません。代わりに、必要最低限の 信頼 を築く必要があります。それは、犯罪者が先行することを許すような形でAIを過剰に規制することを避けるためです。これを実現する方法はいくつかあります。
1. AIへの親しみを深める
まず、サイバーセキュリティの専門家が、意図しない結果を避けられるほどAIに精通していなければなりません。例えば、従来型のセキュリティ上の課題をAIで解決しようとすると、全く予期せぬ望ましくない解決策を生み出してしまう可能性があります。
繰り返しになりますが、犯罪者にはこの問題はありません。実際、彼らはAIに対するサイバー防御の抜け穴を探っています。彼らにとって、意図しない結果は、悪用されうる隠れた弱点を明らかにしてくれる恩恵となるのです。
AIに精通したサイバーセキュリティ人材の必要性は、既存の人材不足を悪化させるでしょう。いくつかの推計によれば、世界では約300万人多くのサイバーセキュリティ専門家が、現在保有している人数よりも必要とされています。しかし、ネットワークアーキテクチャの知識、アクセス制御、暗号化などの従来型のスキルに加えて、サイバーセキュリティ専門家には、信頼できるソリューションを生み出すためにAIと連携する能力が、ますます求められています。
2. AIによるサイバー攻撃からの防御を学ぶ
次に、AIによる攻撃から守るための適切なITの環境を整備する必要があります。AIはしばしば汎用技術とみなされ、社会のあらゆる側面に影響を及ぼすほど多くの用途を持つ技術とされています。
しかし、特定の環境内で運用される場合、AIはそれほど汎用的ではなくなります。例えば、企業のITシステムはそれぞれ異なります。パスワードの仕組み、アクセス制御、ファイアウォールが異なり、ユーザーの行動も異なります。つまり、構造が不十分または運用の不適切なITの環境では、AIは悪い癖を学習してしまいます。誤検知や見落としを生み出すでしょう。やがて人々は、AIは信頼できないと結論づけるようになるでしょう。
しかし、適切な環境、すなわちベストプラクティス、明確なプロセス、優れた管理、適切なツールを用いて構築された環境では、AIはセキュリティ侵害を示す異常や通常の活動パターンからの逸脱を発見するよう訓練できます。AIは、侵入者を見つけて遠ざける、よく訓練された番犬のように機能するでしょう。AIがそのように振る舞い始めれば、人々はAIを信頼するようになるでしょう。
3. デジタル格差を縮小する
第三に、デジタル格差の縮小に、さらに努力しなければなりません。多くの人々は、デジタルにおける不公平とサイバーセキュリティを結びつけて考えていませんが、両者の関係は現実にあります。AIは、ボットネットや攻撃のためにコンピューターを急速に利用できます。一部の発展途上国では、企業がより適切に構築され、より堅牢に保護されたITの環境を整える能力を欠いている場合があります。そのため、これらの国々はサイバー犯罪者にとって格好の標的となっています。
自分のネットワーク内に問題がないからといって、それが自分の問題ではないということにはなりません。脆弱性は移動するものです。これも、世界の貧しい地域がより高度な技術の恩恵を受けられるよう支援すべき理由の一つです。
これらの課題を解決する鍵は国際協力です。新型コロナウイルス感染症や気候変動と同様に、AIのセキュリティ上の影響は国境を尊重しません。
確かに、現時点では各国間の信頼を築くうえで大きな障壁があります。しかし、この極めて重要な分野で協力するのに十分な信頼関係を築けなければ、私たちは必然的にAIを、活用すべき信頼できるツールとしてではなく、恐れるべき脅威として捉えるようになるでしょう。そうなれば、サイバー犯罪者は、今だけでなく永遠に、克服しがたい優位に立つことになります。
