欧州は、透明性、公共空間でのAI利用、高リスクシステムなどの分野を対象とする包括的なAI規制を制定する、世界で初めての主要国・地域となる。
システミックリスクを伴う影響の大きいモデルには、モデル評価、リスク軽減、インシデント報告を含む、より厳格な要件が課される。
政府は、限定的なケースにおいてリアルタイムの顔認識を利用できるが、認知操作およびソーシャルスコアリングは除外される。
本法は、2024年初頭に見込まれる正式な批准から2年後に施行される。
欧州は金曜日、政府による生体認証監視でのAI利用や、ChatGPTのようなAIシステムの規制方法を含む、人工知能の利用を規律する画期的な欧州連合規則について暫定合意に達した。
今回の政治合意により、EUはAIを規律する法律を制定する世界初の主要国・地域となる方向へ進んでいる。EU加盟国と欧州議会議員の間で金曜日に達した合意は、前日のほぼ24時間に及ぶ討議に続き、ほぼ15時間の交渉を経て成立した。
両者は今後数日中に詳細を詰める予定であり、その過程で最終的な法律の内容が変わる可能性がある。
「欧州は、世界の基準設定者としての役割の重要性を理解し、先駆者としての地位を確立した。これは、まさしく歴史的な一日だと私は考える」と、欧州委員のティエリー・ブルトン氏は記者会見で述べた。
今回の合意では、ChatGPTのような基盤モデルおよび汎用AIシステム（GPAI）について、市場に投入される前に透明性に関する義務を順守することが求められる。これには、技術文書の作成、EUの著作権法の順守、学習に用いられたコンテンツに関する詳細な概要の公表が含まれる。
システミックリスクを伴う影響の大きい基盤モデルは、モデル評価の実施、システミックリスクの評価および軽減、敵対的テストの実施、重大インシデントの欧州委員会への報告、サイバーセキュリティの確保、エネルギー効率の報告を行う必要がある。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのか？
AI卓越性センターは、急速に進化する人工知能と、それが経済および社会に及ぼす影響を理解するため、各分野のリーダーをつなぐ。AIの導入に伴う機会、リスク、トレードオフに関する、十分な情報に基づく対話を支援している。
信頼できる場や共同イニシアチブを通じて、センターはパートナーが共通の理解を築き、AIのイノベーションと利用に対する責任ある取り組みで協力できるよう支援している。
システミックリスクを伴うGPAIは、新規制を順守するために行動規範に依拠することができる。
政府は、特定の犯罪の被害者の捜索、テロ攻撃など、真正で差し迫った、または予見可能な脅威の防止、そして最も重大な犯罪の容疑者の捜索といった場合に限り、公共空間でリアルタイムの生体認証監視を利用できる。
今回の合意により、認知行動操作、インターネットやCCTV映像からの顔画像の無差別収集、ソーシャルスコアリング、そして政治的、宗教的、哲学的信条、性的指向、人種を推測するための生体認証分類システムが禁止される。
消費者は苦情を申し立て、意味のある説明を受ける権利を有する。違反に対する罰金は、750万ユーロ（810万ドル）または全世界の売上高の1.5％から、3500万ユーロまたは全世界の売上高の7％の範囲となる。
業界団体DigitalEuropeは、近年の他の法規制に加えてさらなる負担となるとして、今回の規則を批判した。
「合意には至ったが、その代償は大きい。われわれは、技術そのものではなく、AIの利用に基づくリスクベースのアプローチを全面的に支持してきた。しかし、基盤モデルを規制するという直前の試みによって、その前提が覆された」と、同団体のセシリア・ボネフェルド＝ダール事務局長は述べた。
プライバシー権団体のEuropean Digital Rightsも、同様に批判的だった。
「EUで初めて、域内全体でライブの公共顔認識を合法化する措置を講じた法律に、期待を寄せることは難しい」と、同団体のエラ・ヤクボフスカ上級政策アドバイザーは述べた。
「議会は被害を抑えるために懸命に戦ったが、生体認証監視とプロファイリングに関する全体的な枠組みは、せいぜい生ぬるいものにとどまる」。
本法は、両者が正式に批准した後、来年初めに発効する見込みであり、その2年後に適用される予定である。
世界各国の政府は、人間のような対話を行い、質問に答え、コンピュータコードを作成できるこの技術の利点を活かしつつ、ガードレールを整備する必要性との間で均衡を図ろうとしている。
欧州の野心的なAI規則は、マイクロソフトが出資するOpenAIのような企業が、技術の新たな利用法を開拓し続けている中で示された。(MSFT.O)である。Googleの親会社Alphabetは(GOOGL.O)木曜日に発表し、OpenAIに対抗する新しいAIモデル「Gemini」を投入した。
EU法は、他の各国政府にとっての雛形となり得るほか、米国の緩やかな規制アプローチや中国の暫定規則に代わる選択肢ともなり得る。
