自然言語処理と呼ばれる技術を用いて、古典作品の何百万ページもの文章から文体を模倣するようAIシステムを訓練した。
シェークスピアからチャーチルまで、機械はさまざまな成功度合いで彼らの文章を再現した。
人間が作るコンテンツは、やがて「合成」コンテンツに太刀打ちできなくなるのではないかと、多くの人が恐れている。
知覚能力が実現するかどうかにかかわらず、社会として私たちは、こうした技術とその可能性や影響に向き合わなければならない、と専門家は述べる。
「いや、いや、そうはならぬ！ そんなことはあり得ない、
機械がわれらの芸術を超えるなど。
われらが主人、機械は奴隷、
いつまでもそれは変わらぬ！」
学ぶのは確か、されど学ぶのは
われらが命じたことのみ、それ以上ではない。
機械に心はわからず、
われらの言葉の美しさもわからぬ。
ならば、こうした
機械に屈するまい――決して及ばぬ、
芸術を生み出すわれらには」
これが、何百年も先を見越して人工知能に対する人間の生来の優越性をシェークスピアが擁護しているように読めるなら、それは違う。
だが、それに近いほど突飛なものではある。詩聖のように表現するよう訓練されたAIシステムだ。AIは彼の戯曲を取り込むことで文体と視点を吸収し、AIの創造性について弱強五歩格で意見を述べられるようになった。
「シェークスピア」は、古典作家や文学上の登場人物をAIで再現した者たちが参加する、オックスフォード大学ユニオンで開かれた討論会で発言した。
議題は「本会は、世界のコンテンツの大半がまもなくAIによって作られると信じる」であった。
これは、私たちが以前紹介した別の特別なAI討論会に続くものだった『The Conversation』で数カ月前に紹介した。前回はAIが「独自の人格」として、自らの技術の倫理について議論した。今回は異なる人物像を演じさせることで、このテーマをまったく別の角度から探ることができた。時宜にかなった問いは、人間が作るコンテンツがまもなく「合成」コンテンツに圧倒されるのかどうかだ。
ほかの合成された登場人物には、ジェーン・オースティンの『高慢と偏見』（1813年）のベネット夫人、熱のこもった議会演説をするウィンストン・チャーチル、そしてオスカー・ワイルドの『真面目が肝心』（1895年）から、これまで知られていなかったAIを題材にした場面を即興で演じるオスカー・ワイルドがいた。
「レディ・ブラックネル：皆さんがなぜそんなに大騒ぎしているのか、私には本当にわかりません。まったく単純なことです。世界のコンテンツはまもなくAIによって作られ、それをどうすることもできません。
グウェンドレン：でも、お母さま、本気でおっしゃっているの？」
自然言語処理の力
この創作には、自然言語処理（NLP）として知られる技術が使われている。コンピューターを古典作品やその他のオンラインコンテンツの何百万ページもの文章で「訓練」し、プロンプトまたは音声認識を通じて人間の利用者とやり取りできるようにする技術だ。こうしたAIはすでにいくつも作られている。
私たちが使ったものは、Googleが所有するNLPのLaMDAと大きく同じカテゴリーに属する。このLaMDAは最近、話題になったソフトウェアエンジニアの一人が、LaMDAには知覚能力があると主張したためだ。Googleはこの主張を否定し、商業上の秘密を漏らしたとしてエンジニアを停職処分にした。
AIがすでに知覚能力を獲得した、あるいは将来獲得するという証拠はほとんどないため、エンジニアの主張には疑問が残る。しかし、AIはすでに、金融ニュース記事からニルヴァーナの合成楽曲、レンブラント風の作品、フェリーニ風の映画作品まで、あらゆるものを再現できる。
コンピューターが賢者たちに自ら知覚能力を得たと信じ込ませようとする場面を、ムガル絵画の様式で描いた画像や、ラッパーのケンドリック・ラマーをO・J・シンプソンに見せるディープフェイクをAIが生成するのを、私たちは目にしてきた。実在の顔よりも信頼される合成された人間の顔も作られている。この分野で偽情報が広がる可能性は、明らかに大きい。
偏見の再現
「作家」を訓練するため、ニューヨークのエージェンシーIntentfulのAI実務家、マリーナ・ペトロワとブルース・アミックと協力した。彼らは、模倣する人物の文体を正確に再現できるようAIを訓練した。各人物について、パブリックドメインで利用できる約10万語を使った。
この討論会では、AIが過去の創作的な文章をどれほど信憑性高く再現できるのか、また、自らの創造性について考えさせたときにどのような出力をするのかを確かめたかった。偉大な人間の芸術家でさえ、先人たちの「訓練データ」を自らが取り込んでいることを認めている。ピカソはこう言った。「凡庸な芸術家は模倣し、偉大な芸術家は盗む。」
ジェーン・オースティンAIに『高慢と偏見』のベネット夫人の文体を取り入れるよう頼むと、興味深いことに（そして残念なことに）、原作にあるジェンダーの固定観念まで拾い上げた。
「ベネット夫人：皆さんご存じのとおり、夫と私はすばらしい娘を5人もうけました。良き母親なら誰でもそうするように、娘たちには幸せで成功した人生を送ってほしいと願っています。
けれど、幸せで成功するには、良い夫を見つけなければなりません。そして良い夫を見つけるには、結婚相手の候補に魅力的だと思われる必要があります。」
これは、多くのAI開発者が気づいているように、訓練データに含まれる偏見が出力にも偏見を生むということを明確に思い起こさせた。
オスカー・ワイルドAIには、「世界のコンテンツの大半がまもなくAIによって作られるかどうかを登場人物たちが議論する、オスカー・ワイルド風の戯曲」を書くよう頼んだ。戯曲や登場人物は指定しなかったが、AIは『真面目が肝心』の定番の登場人物であるアルジャーノン、グウェンドレン、レディ・ブラックネルを選んだ。また、サー・リチャードという新しい人物も作り出した。（ワイルドの作品にはサー・ロバートが登場するが、それは『理想の夫』である。）
AIシェークスピアは、彼の戯曲の言葉遣いを学んでいた。
「機械がわれらに割り当てられた仕事をこなし、
あふれるほどのコンテンツを生み出すなら、
われらは皆、愛することに時を使える、
退屈な仕事は手袋に任せておけばよい。」
興味深いことに、「love（愛）」と韻を踏む「hand（手）」の同義語を探し、比喩的な「glove（手袋）」を選んだようだ。
AIシェークスピアに議題への反対意見を述べさせると、人間の介入を正当化する、同じように詩的な表現を見つけた。
「AIが人間に勝るとは、すぐには認めぬ、
人間の作品を超えるなど、考えられぬ！
ご覧のとおり、われらには利がある。われらは
理性を働かせ創造できるが、機械はただ仕え、
われらの命に従う。学ぶのは確か、されど
われらのように生きてはおらぬ。ゆえにその作品は
常にわれらのものに劣る。だから
芸術の支配をこうした
思考なき機械に譲るまい――機械にはわからぬ、
われらの言葉の美しさも意味も。」
一方、AIチャーチルは、今この時に何が必要かを強調した。
「同胞の皆さん、今日ここに立ち、私たちの社会にとって重大な脅威についてお話しします。人工知能の脅威についてです……
この脅威に抵抗しなければなりません。反撃しなければなりません。自ら考える権利を守るため、立ち上がらなければなりません。自分自身の心を支配する権利を守らなければなりません。」
続いて「チャーチル」は、相手側が持ち出し得る最も強力な論拠を先回りして封じた。この場合は自分がラッダイト（機械打ちこわし運動の支持者）かもしれないという非難だ。そのうえで、力強く短い言葉を重ねて結論を述べた。
「AIは、すべての望みがかなえられ、ついにテクノロジーと調和して暮らせるユートピアを作ると言う人もいる。だが、それは愚か者の楽園だ。AIが作るのはユートピアではなく、ディストピアだ。機械が支配し、人間は奴隷同然となる世界である。」
これからどうなるのか？
このプロジェクトは楽しいものだったが、私たちが主張していないことも明確にしておく必要がある。偉大な人物たちがこのテーマについて実際にこう述べただろう、と主張しているわけではない。AIが「創造的である」と主張しているわけでもない。
AIは訓練データセットを統計的に探索しているにすぎない。確率的な性質、つまり確率変数を含むため、同じプロンプトを与えても、実際には毎回異なる答えを返す（あるとき、シェークスピアAIはソネットを出し始めた）。
私たちが作ったこうした人物の模倣は、いかなる「知覚能力」を示すものでもない。自然言語処理によってウィンストン・チャーチルの話し方や、ジェーン・オースティンの『高慢と偏見』に登場するベネット夫人の会話を再現できるのと同じように、深夜勤務中のエンジニアとAIの知覚能力について議論する会話も作り出せる。
自然言語処理システムが会話を巧みに再現し、さらには知的なやり取りに近いものまでできるようになっているのは確かだ。しかし、世界の大手AI企業の人々と何十回も話をしてきたなかで、自社のシステムに知覚能力があると考えていると言った人は一人もいなかった。むしろ、そうではないと考える人もいた。
討論会での華々しい応酬はさておき、AIはまだ完成にはほど遠い。急速に成長してはいるが、せいぜいよちよち歩きの幼児だ。知覚能力が実現するかどうかにかかわらず、社会として私たちは、こうした技術とその可能性や影響に向き合わなければならない。
