人工知能（AI）を「俳優」と呼ぶと、人間の主体性と自動化システムとの重要な区別が曖昧になり、一般市民、規制当局、裁判所が害に対する責任の所在を特定しにくくなる。
合成システムは、実体験や判断力、物語に込める感情の真実味をもたらすことはできない。それらを人間と同一視することは、文化を平板化し、創作の水準を下げ、人間の仕事の価値を損なうおそれがある。
リスクは必然でも避けられないものでもない。明確な開示、正確な表示、人間が明示的に責任を負う仕組みがあれば、合成ツールは、一般市民を誤解させたり、パフォーマーを損なったりすることなく、創造性を支えられる。
1960年代、初期のコンピューター科学者たちは、人々がソフトウェアとどのように関わるかについて、興味深い現象に気づいた。単純なプログラムでさえ、機械的なパターン照合によって生成された文章に、利用者が意図や理解力を見いだすことがあった。
この傾向は「ELIZA効果」として知られるようになった。何十年にもわたり、人間が親しみのある方法でコミュニケーションするシステムに、いかに容易に主体性を投影するかを示すものとなっている。
生成AI（GenAI）は、その本能をビジネスモデルに変えた。今日のシステムは、画面の向こうに心があると感じさせるよう設計されている。会話調の文体を採用し、よく知られた言い回しを借り、ますます写実的な顔や表情豊かな声を備えるようになっている。
合成システムが人間の職業上のカテゴリーで説明されるとき、とりわけ「俳優」と呼ばれるとき、この動きは重大な結果をもたらす。
演技は、単に実行できる作業ではない。記憶、弱さ、好奇心、選択によって形作られる技芸である。合成された存在を俳優と呼ぶことは、人間の表現と自動化された模倣との区別を消し去ることになる。
この傾向を背景に、オランダの制作スタジオParticle6が生み出した初のAI俳優、合成キャラクターのティリー・ノーウッドをめぐる最近の論争が起きている。
AI俳優を使うリスク
1. 文化面：人間の物語表現の平板化
物語は常に実体験を映し出してきた。喜びや喪失、不安、成長を知る人々が演じるからこそ、その演技は人の心に響く。物語の感情的な力は、多くの場合、実際の人間の人生に根差した洞察から生まれる。
合成システムには経験がない。パターンを組み合わせ直して、感情をほのめかす。その結果は洗練され、巧みに見えることもあるが、真の創作の源を欠いていることが少なくない。こうしたコンテンツがあふれれば、文化はより平板になり、反復が増え、意外性や感情的な深みが失われるおそれがある。
低コストの合成コンテンツが広がるにつれ、期待水準が下がる危険もある。視聴者は、量の多さを独創性と、技術的な流暢さを意味の深さと取り違えるようになるかもしれない。それは創作に携わる人々だけでなく、物語を通じて世界を理解しようとするすべての人にとって損失となる。
2. 実務面：責任を負う主体なき説明責任
同じくらい重要なのが、責任の問題である。
観客は俳優を見ると、その役割に何が伴うかを理解する。創作上の選択を行い、契約を結び、条件を交渉し、法的および職業上の責任を負う人間がいるということだ。
合成システムには、こうしたことは何一つできない。それでも、人間の言葉や映像で示されると、画面上の存在が責任を負う主体だと一般市民が考えるのも無理はない。
この区別は、害が生じたときに重要となる。合成ニュースキャスターが誤情報を広めたり、私人の名誉を毀損したりした場合、責任はソフトウェアにはない。設計し、学習させ、導入し、販売した人間にある。
しかし、こうしたシステムに人間の特性を与えると、その現実が見えにくくなり、精査を免れさせてしまうおそれがある。
健全性を保つための3つの原則
こうした懸念があっても、デジタルツールを放棄する必要はない。フィクションは常に、人間と創造物の境界を題材にしてきた。観客は、物語の登場人物が、その物語の中にしか存在しない考えや感情を表現しうることを理解している。
問題が生じるのは、フィクションとしての枠組みが商業的な現実世界の文脈に入り込むときだ。創作活動、公衆の信頼、法的説明責任を守るため、合成メディアを利用する業界は、3つの指針に取り組むべきである。
1. 物語の中の現実と商業上の現実を明確に分ける
物語の中では、合成キャラクターは筋書きに必要な感情を何でも表現できる。市場では、正確さが絶対に求められる。ソフトウェアは俳優として雇用されるのではない。合成パフォーマー、デジタルレプリカ、またはその他の明確に表示されたツールとしてライセンスされる。
契約や対外的な説明も、その現実を反映すべきである。透明性のある言葉遣いは、人間の役割の意味を保ち、法律上の労働区分を守り、実際に誰が作業を担っているかについて一般市民が誤解しないようにする。
2. 合成出力に人間が明示的な責任を負うようにする
システムが人間に似るほど、それに責任を負う人間を特定することがいっそう重要になる。有害な結果を覆い隠す盾として合成システムを使ってはならない。
ブラックボックスであるという説明は、責任の代わりにはならない。企業の経営陣は、自らが導入したシステムの出力に責任を負わなければならない。
3. あらゆるユーザーインターフェースで真実を伝える
人工的な存在であることを明かさずに人間の声をまねるカスタマーサービスボットは、欺瞞にあたる。責任者を明らかにせずに意見を述べる合成ニュースキャスターは、信頼を損なう。
明確にフィクションと分かる文脈の外で使われる合成システムは、いずれも、その背後にある組織を明確に開示したうえで、合成システムであると表示すべきである。
ラベル、透かし、インターフェースの設計はいずれも、ひとつの基本要件に応えられる。利用者と接する場で真実を伝えることだ。
フォーラムは、リーダーがAIを理解し、責任あるイノベーションで協力できるよう、どのように支援しているか
AIエクセレンスセンターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、経済や社会への影響を理解するための支援を行う。また、AI導入に伴う機会、リスク、トレードオフについて、情報に基づく対話を促進する。
信頼できる対話の場や協働の取り組みを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと活用に向けた責任あるアプローチに協力して取り組めるようにする。
ダボス2026を前に必要な取り組み
GenAIの開発や導入を形作るすべての世界のリーダーは、これらの原則を採用し、倫理と責任に関するプログラムの基盤とすべきである。
今私たちが下す選択によって、この技術が人間の創造性と民主主義への信頼を強めるのか、それとも私たち全員が頼る基盤を弱めるのかが決まる。
テクノロジーを使って驚くべき物語を生み出すことはできるが、模倣を人間性と混同してはならない。合成された創作物はツールであり、パフォーマーは人間である。この区別を守れなければ、説明責任だけでなく、文化の中心にある人間の声そのものを失うおそれがある。
