AIポッドキャストシリーズ最終回では、中国・天津で開かれたニュー・チャンピオンズ年次総会（AMNC）、世界経済フォーラムの「夏のダボス会議」の注目点を紹介する。
中国・天津で開催された世界経済フォーラムの「ニュー・チャンピオンズ年次総会」で、AIの専門家らが安全策、責任ある設計と導入を呼びかけた。
重要な分野における最終的な意思決定は、人間が担い続けなければならないと専門家らは述べる。
偏見をなくし、透明性を確保するための対策も欠かせない。
最新のエピソードはこちらでお聴きください。
政府、テクノロジー業界、学術界のリーダーたちは、生成AIの大きな可能性を認める一方、知能技術を安全に導入し、すべての人に利益をもたらすため、一連の保護策を講じるよう求めた。
専門家らは、世界経済フォーラムのニュー・チャンピオンズ年次総会（中国・天津）で開かれた2つのセッションで意見を交わした。
議論の口火を切り、フォーラムのAI・データ・メタバース部門責任者で執行委員会メンバーのキャシー・リーは、最近の「Radio Davos」で次のように述べた。「この新しい技術に大きな可能性があることだけでなく、それに伴う課題と責任についても、誰もが理解することが極めて重要です。」
以下に、AIの未来をテーマにした2つのセッションの要点を紹介する。
注：この記事は自動文字起こしに基づいており、一部の引用は長さや文法を整えるために編集されている。
世界経済フォーラムは、人工知能の倫理的な開発をどのように確保しているのか？
人類の文明を変えうる技術をどう規制するか
セッション「生成AI：味方か敵か？」で、香港科技大学電子・コンピュータ工学科の卓越教授パスカル・ファンは、世界は「人類文明における量子的飛躍」をもたらす、強力で創造的なモデルに直面していると述べた。
ファンは続けて、次のように語った。「責任ある生成AIモデルを開発するための枠組みが必要です。人間を関与させ続けるだけでなく、モデルを根本から理解し、人間の望みに沿うようにしなければなりません。」
パネリストらは、AIを安全に導入するには安全策が不可欠だと合意する一方、AIがもたらしうる負の影響への懸念によって開発を遅らせるべきではないという認識も示した。
スロベニアのデジタル変革担当大臣エミリヤ・ストイメノヴァ・ドゥーは、「AIはイノベーションを大きく後押しできます」と述べ、懸念がその妨げになってはならないと付け加えた。「もちろん懸念はありますが、懸念ばかり語っていると、この可能性を失ってしまうかもしれません。」ストイメノヴァ・ドゥーはさらに、AIに関する最大の懸念や、教育におけるAIの役割、AIシステムに内在する偏見について語った。
「大きな可能性を感じています。懸念しているのは、教師がAIの使い方を知っているのか、生成AIの意味やその活用方法を理解しているのか、確信が持てないことです。しかし、最大の懸念はAIの偏見です。世界にはすでに固定観念や偏見があります。AIから固定観念や偏見を取り除き、地域社会にさらなる分断をもたらさないようにする方法を見つける必要があります。」
CausaLensの最高経営責任者ダルコ・マトフスキは、AI主導のイノベーションがもたらす恩恵には透明性が伴わなければならないと考える。信頼を築くには、AIシステムの動作や下す判断を人間が理解できなければならないと、同氏はパネルで述べた。「AIプロジェクトの約85％は研究室から出ることがありません。その根本的な理由は……人々がアルゴリズムを実際には信頼していないことです。生成AIには多くの用途がありますが、意思決定となると、アルゴリズムが何をしているのかを人々が理解する必要があります。AIは、なぜその判断を下したのか説明しなければなりません。過去に見たことのないデータポイントが明らかになったときに何をするのかも説明できなければなりません。」
AIを規制するルールは誰が作るのか？
2つ目のセッションでは、AI革命に備える：変化のペースに対応するパネルの参加者らが、AIの規制に誰が責任を持つべきかを議論した。政府が担うべきか、それともテクノロジー業界の自主規制に委ねるべきか。
ルワンダの情報通信技術・イノベーション担当大臣パウラ・インガビレは、「政府は、知らないものを規制できません」と述べた。インガビレは、官民で規制に取り組むことが最善の結果につながりうると説明し、パネルでこう語った。「誰もが政府が主導すべきだと考えるのは自然なことで、私もそう思います。ここで非常に重要なのは、政府だけでは対応できないと理解することです。連携と協力の仕組みを築き、誰がより大きな役割を担うのかを見極める必要があります。」
エミリヤ・ストイメノヴァ・ドゥーは、AIのリスクと可能性を十分に理解しないまま政府が規制を急ぐ危険性を指摘し、パネルでこう述べた。「何かを規制したいのであれば、時間をかけて、何を規制したいのかを見極めるのがよいでしょう。」大臣は、AIの開発速度によって立法担当者が対応に追われ、リスクを抑えるには不十分な規制や、前向きなイノベーションを阻害する規制につながるおそれがあると警告した。
ハーティ・スクールの倫理・技術教授ジョアンナ・ブライソンは、AI開発者と規制当局が、AIの潜在的な影響について適切な問いを自らに投げかけることが極めて重要だとパネルで述べた。AIを信頼するよう人々を説得するよりも、AIと共にある世界で人々が安心できるようにすることに、より重点を置くべきだと提案した。
「AIによって職を失う人々について、真剣に考える必要があります。予期せぬ出来事が人生に起きたとき、家賃や住宅ローンを払い続けられるでしょうか。政府には、私たち全員が変化に対処できるよう支援する重要な役割があります。今、信頼をめぐる課題がある理由の一つは、必要な情報が得られておらず、透明性も十分でなかったと私たちが知っているからです。私たちが情報化時代に生きていると認識し、人々の利益になることを行う必要があると思います。」
世界経済フォーラムは、AIガバナンス・アライアンスを立ち上げた。これは、責任ある生成AIに特化した取り組みである。この取り組みは既存の枠組みを拡充し、「責任あるAIリーダーシップ：生成AIに関するグローバルサミット」で示された提言を基盤としている。
