この技術の普及が進むにつれ、一般市民は生成AIの利点とリスクについて教育を受ける必要がある。
AIの規制は重要だが、業界も積極的な集団的取り組みを実践しなければならない。
同意に関する問題と、前向きな活用事例を強調する啓発キャンペーンが、検討すべき主要分野である。
生成AIが悪意ある目的に使われた話は、誰もが少なくとも一つは耳にしたことがあるだろう。誤りだらけの準備書面を提出した弁護士の件や、声を偽装して金を盗む詐欺師の件。
こうした話や、その他多くの事例は、メディアで広く取り上げられてきた。そのため、人々が生成AIに対して、良くても警戒心を抱き、最悪の場合は敵対的になるのも当然である。
また、AIの規制に関する真剣な議論が活発化しているのも当然のことである。欧州連合（EU）は最近、世界で初めてAIに関する規則を定める画期的な合意に達した。
AI動画プラットフォームを構築した最初期のスタートアップの一つであるSynthesiaの創業者として、私はこうした報道を憂慮しながら読んでいる。しかし、一般市民との適切な集団的取り組みがあれば、生成AIはその変革的なツールとしての真価をより正しく理解され、活用されると私は期待している。その理由を説明しよう。
ハイリスクAIの規制が重要であることは疑いない。一定の保護は法律によって保証される必要があり、世界中で規制の提案が増えているのを目にしている。その焦点は、社会的スコアリング、予測的取り締まり、行動操作、そして人々の基本的権利に影響を及ぼすその他の不正利用などの問題である。
AIによる意思決定プロセスにおける透明性と説明責任を確保するため、また、AI生成コンテンツにおける知的財産権に関する懸念に対応するため、法律も導入されつつある。さらに、一部の国では、特に物理世界と相互作用するAI技術や政府部門で利用されるAI技術に対して、倫理ガイドラインや安全基準を導入している。こうした動きは、AIを社会に安全に統合するために私たちが進めている取り組みの進展を示している。
しかしながら、これらの規制だけでは、AIの悪用から一般市民を守るには限界がある。同様に、私たちはこれまでも他の新しい技術について一般市民を教育してきた。例えば、住宅への電化が導入された際、誰もが歓迎したわけではなかったという事例がある。私たちには、生成AIの利用方法、得られる利益、そして生成AIコンテンツを制作・消費する際に一般市民が注意すべき点について教育する責任がある。
この技術の投資家、発明者、利用者として、私たちはこれを実行する責任がある。しかし、この重大な課題にどう取り組めばよいのだろうか。生成AIが責任ある形で社会を前進させるために、取り組みを始める上で役立つ戦略をいくつか以下に示す。
1. 同意
一般市民がユーザーの肖像を保護する同意ルールを理解し、企業がそれを徹底することが極めて重要である。自分の声、身体、思考を使ってAI生成コンテンツを作成することの意味を人々は理解し、そのコンテンツがどのように利用されるかというルールに納得している必要がある。製品の仕組みによって、企業ごとに同意の取得方法は異なるかもしれない。しかし、Synthesiaでは、カスタムアバターを作成する人に対し、必要な動画・音声の録画を開始する前に、カメラの前で口頭による同意を求めている。
2. 電子透かし
これにより、個人は視聴の段階から、動画が合成されたものであるかどうかを理解でき、視聴しているものを分析する際に別の視点を持つことができるようになる。業界全体でも同様の取り組みが数多く進められており、私は電子透かしがやがて業界の標準的な期待事項となり、消費者が注意を払うようになると考えている。
3. 啓発キャンペーン
AIがここに定着することは、私たちは理解している。私たちは、そこに数十億ドルもの投資が行われ、性能向上とともに急速に変化していくことも理解している。この業界の関係者として、その資金の相当部分を、これらのツールに関する一般市民の認知度向上や、あらゆる年齢の学生へのAIの利用・活用方法の指導に充てることは、私たちの責務である。こうしたキャンペーンには、消費者がAIの仕組みや、善にも悪にも利用され得ることを理解できるよう、無料のチュートリアルや教育コンテンツを含めるべきである。これらのキャンペーンや教育コンテンツを制作することで、これらの製品を開発する企業は、一般市民との信頼と信用の構築、ユーザーの獲得など、多くの利益を得られるだろう。
4. 前向きな事例
これに関連して、AI技術を提供する企業として、私たちはできるだけ早く、AIの前向きな活用事例に触れる機会を通じて教育を行うことが不可欠である。一般市民がAIの力を恐れるのではなく、自分にとって最善の形で活用できるよう、AIが善のためにどう使えるかを示すことが極めて重要である。生成AIの前向きな事例の一つは、映画やテレビ番組を異なる言語に吹き替えるなど、さまざまな視聴者にコンテンツを届けやすくすることにある。AI技術へのアクセスを待ち望むユーザーがいる中、私たちは人々が簡単に使えるツールを構築しなければならない。AIが善と悪のどちらに使われているかを見分けられるだけでなく、その仕組みを理解している人々の存在こそが、私たちの最善の防御策となるだろう。
世界経済フォーラムは、人工知能に対する指針をどのように策定しているのか？
AI卓越性センターは、急速に進化する人工知能と、それが経済や社会に与える影響を理解するため、各分野のリーダーをつないでいる。AI導入に伴う機会、リスク、トレードオフについて、情報に基づいた対話を支援している。
信頼できる場や協働的な取り組みを通じて、センターはパートナーが共通理解を築き、AIの革新と利用に対する責任あるアプローチを共に進められるよう支援している。
生成AIの可能性は無限である。私は毎日この新しく刺激的な技術を開発できることを幸運に思っている。しかし、AIは多くの人にとって新奇で、時に分かりにくい技術であることも私たちは理解している。技術が持つ可能性を最大限に引き出すため、より身近で、透明性が高く、安全なものにすることは私たちの責任である。業界の他の人々にも、一般市民への教育に加わってほしいと願っており、良いAIニュースが悪いニュースよりも多くなる日を楽しみにしている。
