ChatGPTは単なる情報源の一つに見えるかもしれないが、その出力を生み出す仕組みは信頼性への疑問を投げかける、と政治学の教授は述べる。
機械学習モデルは洗練されて見えるが、実際には、他者の作品を新しいものであるかのように再構成する、理解を伴わない複雑なオートコンプリート機械にすぎない。
したがって、ChatGPTは一見首尾一貫した文章を作成できるものの、その出力を科学的知識と取り違えることは望ましくない。
ChatGPTが引き起こした数々の反応の中でも、自然言語での問い合わせに文法的に正しい応答を返す、米国の営利企業OpenAIのチャットボットに対する教育者や研究者の反応に匹敵するものはほとんどない。
学術出版社は ChatGPTを共著者として記載することを禁止し、その利用条件を示す厳格なガイドラインを定める動きに出ています。世界の主要な大学や学校も、フランスの名門 Sciences Po や オーストラリアの多くの大学などが、その使用を禁じています。
これらの禁止措置は、単に不正行為を見破れなくなることを懸念する研究者の行動にとどまるものではありません。出典を明記せずに資料を写した学生を捕まえることだけが問題なのでもありません。むしろ、これらの措置の深刻さは、OpenAIのChatGPTチャットボットをめぐる果てしない報道ではあまり注目されていない問い、すなわち、ChatGPTが出力するものを、なぜ私たちは信頼すべきなのか、という問いを反映しています。
これは極めて重要な問いです。ChatGPTやそれに類するプログラムは、出典の明記の有無にかかわらず、社会の基盤を成す情報源、特に学術界とニュースメディアにおいて容易に利用されうるからです。
私の研究、特に「政治 経済」の知識ガバナンスに関する研究に基づけば、ChatGPTの利用を学術界が禁じる措置は、ChatGPTが私たちの情報エコシステム全体に及ぼす脅威への妥当な反応です。ジャーナリストや研究者は、ChatGPTの利用に慎重であるべきです。
その出力だけを見ると、ChatGPTは単なる情報源やツールの一つのように見えるかもしれません。しかし実際には、ChatGPT、正確にはChatGPTがその出力を生み出す仕組みは、知識の権威ある情報源としての、その信頼性そのものに直接向けられた短剣です。決して軽視すべきではありません。
信頼と情報
なぜ一部の情報源や知識の種類が他よりも信頼されていると見なされるのか、考えてみてください。欧州啓蒙思想以来、私たちは科学的知識を一般的な知識と同一視する傾向がありました。
科学は実験室での研究以上のものです。それは、経験的根拠に基づく証拠と、証拠の収集および評価に関する透明な方法の追求を優先する思考の様式です。そして、あらゆる知識が判断される際のゴールドスタンダードとなる傾向があります。
例えば、ジャーナリストは情報を調査し、出典を示し、証拠を提示するがゆえに信頼性を持ちます。報道に誤りや欠落が含まれることがあるとしても、そのことが職業の権威を変えるわけではありません。
意見記事の執筆者にも同じことが言えます。特に学者やその他の専門家は、彼ら（私たち）が特定分野の専門家という地位から権威を引き出しているからです。専門知識とは、自分の分野で正当な知識を構成すると認められている情報源を使いこなす力を意味します。
多くの意見記事は引用が多いわけではありませんが、責任ある学者であれば、思想家や研究 を、彼らが 依拠して いるものとして示してくれるはずです。そして、それらの情報源自体も、読者が自ら検証できる、検証可能な情報源に基づいています。
真実と出力
人間の書き手とChatGPTは、同じ種類の出力、すなわち文や段落を生み出しているように見えるため、一部の人々がこの科学的根拠に基づく権威をChatGPTの出力にも誤って認めてしまうのは、無理からぬことです。
ChatGPTと記者がどちらも文を生み出すという類似点はそこまでです。最も重要な点、すなわち権威の源泉は、何を生み出すかではなく、どのように生み出すかにあります。
ChatGPTは、記者と同じ方法で文を生み出すわけではありません。ChatGPTや、その他の機械学習による大規模言語モデルは、洗練されているように見えるかもしれませんが、基本的には複雑なオートコンプリート機械にすぎません。電子メールの次の単語を提案する代わりに、はるかに長い文章のまとまりを、統計的に最も起こりやすい単語で生成しているのです。
これらのプログラムは、他者の作品を、あたかも新しいものであるかのように再構成しています。何を生成しているのかを「理解」しているわけではありません。
これらの出力の正当化根拠が真実であることは決してありえません。その真実とは相関関係の真実にすぎず、「sentence」という語が「We finish each other’s …」という句を補完する際に常に来るべきだという関係です。それは、それが最も一般的な出現だからであり、何かが観察されたことを表現しているからではありません。
ChatGPTの真実は統計的な真実にすぎないため、このプログラムが生成した出力は、記者や学者の出力と同じ形で信頼することは決してできません。それは「科学的」と私たちが通常考えるものとは異なる方法で出力を生成するように構築されているため、検証することもできません。
ChatGPTの情報源は確認できません。なぜなら、その情報源は、ある単語の並びが多くの場合互いに続きやすいという統計的事実だからです。
ChatGPTの出力がどれほど首尾一貫して見えようとも、生成されたものをそのまま公開することは、オートコンプリートを野放しにすることと同じです。これは無責任な行為です。そうした統計的な小細工を、十分な出典に基づき検証された知識と同等であるかのように装うからです。
同様に、ChatGPTを自らの業務プロセスに組み込む研究者やその他の人々は、科学的知識の体系全体を自分自身の足元から崩してしまうという、存在に関わる危険を冒しています。
ChatGPTの出力は相関関係に基づくため、執筆者はそれが正確であることをどのように知るのでしょうか。実際の情報源と照合して確かめたのでしょうか、それとも出力は単に自身の個人的な偏見に合致しているだけなのでしょうか。そして、もし執筆者が自分の分野の専門家であるなら、そもそもなぜChatGPTを使っているのでしょうか。
知識の生成と検証
要点は、ChatGPTの仕組みでは、その真実性を検証する手段がないということです。対照的に、記者や学者が科学的で証拠に基づく方法によって知識を生み出していることは、たとえ結果が私たちの先入観に反するものであっても、彼らの仕事の正当性を裏付けるものです。
知識の創出において私たちが中心的な役割を担っているため、この問題は学者にとって特に深刻です。コラムの一部でさえChatGPTの執筆に頼るということは、検証された情報源に組み込まれた科学的権威に、もはや依拠していないことを意味します。
つまり、統計的に生成されたテキストに頼ることで、彼らは実質的に権威への訴えを行っていることになります。また、読者は著者の文章とAIの文章を区別できないため、こうした行為は読者をも誤解させます。
ChatGPTは、まるで魔法のように、一見読みやすい知識を生み出すかもしれません。しかし、その出力を実際の科学的知識と取り違えないよう強く助言されるべきです。首尾一貫性と理解を混同してはなりません。
ChatGPTは、新旧の知識への容易なアクセスを約束しますが、それは毒入りの杯です。読者、学者、記者の皆さん、ご注意ください。
