このまとめでは、過去2週間の主要なデジタル技術のニュースをお届けします。
主要なデジタル技術のニュース：EU、米国、英国が歴史的なAI安全合意を締結。テレグラムはディープフェイクポルノ問題について韓国に謝罪。チャットボットは陰謀論への信念を弱めうる。
1. EU、米国、英国がAI安全協定の節目に到達
欧州連合、米国、英国、そのほか数か国は、画期的なAI安全条約に署名した。これは、人工知能（AI）システムを民主主義的価値観に合致させることを目指す、初の法的拘束力を持つ国際協定である。
「人工知能と人権、民主主義及び法の支配に関する枠組条約」は、国際人権機関である欧州評議会が策定し、リトアニアのヴィリニュスで署名された。
多くの国々がAI技術のリスクを軽減するための法整備に取り組んでいる。世界経済フォーラムの『グローバルリスク報告書』では、『AI技術の悪影響』が今後10年間のトップ10リスクの一つに挙げられており、偽情報や誤情報も同様に挙げられている。
アンドラ、ジョージア、アイスランド、ノルウェー、モルドバ共和国、サンマリノ、イスラエルも同条約に署名した。同条約は、AIシステムに関する法的枠組みを提供するもので、進歩と人権・民主主義へのリスクとの均衡を図ることを目的としている。
欧州評議会のマリヤ・ペイチノヴィッチ・ブリッチ事務総長は声明で次のように述べた。「AIの台頭が、私たちの基準を損なうのではなく、維持するよう確保しなければなりません。枠組条約は、まさにそれを確実にするために設計されています。
「本条約は強固でバランスの取れた内容であり、起草に際して取られた開かれた包摂的なアプローチの成果である。これにより、多様で専門的な視点を取り入れることが確保された。」
枠組みに従う国であれば、どの国も参加できる。本枠組みはアルゼンチン、オーストラリア、カナダ、日本、メキシコ、ウルグアイからの意見を踏まえて策定された。本条約は、少なくとも欧州評議会加盟国3か国を含む5つの署名国による批准から3か月後に発効する。
2. カリフォルニア州、物議を醸すAI規制法案を検討
カリフォルニア州は、AIを規制する法案を検討している。この法案は、ベンダーに責任を負わせることにより、技術によって生じる損害からの保護を目指すものである。しかし、テクノロジー業界内で物議を醸している。
SB 1047への批判派は、同法案がイノベーションを阻害すると主張する一方、推進派は技術をより安全にすると述べている。
同法案は現在、ギャビン・ニューサム知事のもとにあり、成立させるか否決するかの判断を待っている。しかし、9月中旬に同知事は、同法案には欠陥があると考えていることを明らかにした。セールスフォースのマーク・ベニオフCEOとの2024年のDreamforceカンファレンスでの対話において、同知事は次のように述べた。「ここ数年、リスクを取ることは支持しつつ、無謀さは支持しないという、合理的な規制を打ち出すために取り組んできました。
「特に SB 1047 については、この分野において現在それが困難となっています。その法案がもたらしうる過大な影響と、特にオープンソースコミュニティにおける萎縮効果のためです。」
同法案を支持する意見を表明している人物には、X社CEOのイーロン・マスク氏や、Future of Lige Instituteの米国政策担当ディレクターであるランドン・クライン氏が含まれる。ナンシー・ペロシ氏と、テクノロジー擁護団体のChamber of Prgressは、ニューサム知事に拒否権を発動するよう求めており、後者は同法案を「根本的に欠陥があり、対象が誤っている」と述べている。
世界経済フォーラムは、技術の責任ある利用をどのように確保しているか？
3. 短信：世界各地のデジタル技術のニュース
Googleは、同社のGemini AI画像生成モデルにおいて、人物の画像を生成できる機能を展開する予定である。これは、2月に技術が歴史的出来事を不正確に描写したことによる一時停止に続くものである。
チャットボットは、人々の陰謀論への信念を弱める可能性があると、Nature誌が報じている。最近『Science』に掲載された研究では、詳細な回答を返すチャットボットと数分間やり取りするだけで、参加者の考え方に持続的な変化が生じたことが明らかになった。
データセンターの拡大により、今世紀末までに世界全体で約25億メトリックトンの二酸化炭素換算排出量を生み出す可能性が高い。モルガン・スタンレーの調査によると、業界の温室効果ガス排出量は米国全体の約40％に相当するという。
英国政府は、データセンターを重要国家インフラに分類する方針である。これにより、サイバー攻撃、ITの停止、異常気象などの大規模な障害時に追加的な支援が受けられるようになる。この分類により、データセンターは緊急サービス、金融、医療、エネルギー、水道の各分野と同等に位置づけられ、混乱の最小化を目指す。
BlackRockとMicrosoftは、AI技術の増大するエネルギー需要を支援することを目的とした300億ドルの投資ファンドの立ち上げを計画している。AIイノベーションに必要な電力は従来の技術をはるかに上回っており、現在のインフラに負荷をかけている。
4. アジェンダにおけるデジタル技術の関連記事
ディープフェイク動画の中には見分けやすいものもあるが、他のものは検出がはるかに難しい場合がある。この記事を読めば、何が本物で何が偽物かを見分ける手がかりとなる特徴的な兆候のいくつかがわかる。
AIを開発・導入する企業に投資家が資金を注ぎ込む中、安全で責任ある形で運用されるよう、投資家はどのような措置を講じるべきか。Radio Davosは、10億ドル規模の投資ファンドのマネージング・ディレクターであり、「投資家のためのプレイブック」の共著者にインタビューし、投資家が確認すべき質問について聞いた。
報告書の全文は、こちらで読むことができる。同報告書では、責任あるAIのビジネス上の根拠、リスク軽減の可能性、そして組織がその前に立ちはだかる障壁をどのように乗り越えられるかを知ることができる。
