「AIは認識論的な脅威となりうる」とChatGPTは言うが、ChatGPTは信頼できる情報と疑わしい情報を区別していない。
徳認識論者によるディープフェイクの研究からの知見は、ChatGPTが及ぼしうる影響を考える上で役立ってきた。
ChatGPTは「デジタル感覚」を高める助けとなり、オンライン上に出回る膨大な画像や動画の中から真偽を正確に見分けられるようにしてくれる可能性がある
OpenAIにより2022年11月30日に公開されたChatGPTは、議論の全体をほぼ完璧に模倣したり、人間の脳から直接出てきたように見える文章を生成して、複雑な質問に答えたりできる。
この画期的な進歩は、さまざまな懸念を生んでいる。その中には、経済的、倫理的、そして「認識論的」（信頼できる知識や情報の生成または獲得）に関する問題が含まれる。この種の人工知能は現段階では、信頼できる情報と疑わしい情報を区別できないためである。
「AIは認識論的な脅威となりうる」とChatGPTは言う
AIは、説得力があるが虚偽の情報を生成しうるため、認識論的な脅威となりうる。これは私たちの世界の理解に異議を唱えたり、さらには知識の妥当性を危うくしたりしかねない。これにより、AIを使って偽情報を拡散したり、人々の信念を操作したりする可能性への懸念が生じる。
これは私が言っているのではなく、……ChatGPT自身なのだ！「AIはどのように認識論的な脅威となるのか？」という次の質問をされた際に、ChatGPTが前の段落を生成した。この例から分かるように、その回答は非常に説得力がありながら、愚かなものでもありうる。偽のコンテンツは、明らかな場合もあれば、見抜くのがより難しい場合もある。
この例では、最初の文に大きな問題はないが、2番目の文は意味のない決まり文句である。「私たちの世界の理解に異議を唱える」や「知識の妥当性を危うくする」とは、いったい何を意味するのか。また、3番目の文はあまり意味をなさない。これらのAIは何かを広めるわけではなく、操作に最も適しているわけでもない（私たちは、AIが生成するものをそれほど制御できないからである）。
しかし、まさにそこが問題なのだ。真実にたどり着くためには、私たちは考える必要がある。
ChatGPTは、自らの回答の真実性について、まったく気にかけていない
Erwan Lamy、情報・オペレーションズ・マネジメント准教授、ESCPビジネススクール
理解しておくべきことは、ChatGPTは質問に答えるようにプログラムされているのではなく、もっともらしく聞こえる文章を生成するようにプログラムされているということである。「読む」ための大量のテキストが利用できる場合に、特に強力である。ChatGPTの場合は、驚異的である。
ある単語の並びが与えられると、ChatGPTはそれを完成させるための最も可能性の高い単語の並びを決定できる。したがって、ChatGPTは質問に「応答」できるが、最も可能性の高い回答を計算するため、必然的に信じられる形になる。しかし、そこには論理も思考も関わっていない。あるのは確率の計算だけである。ChatGPTは、自らの回答の真実性について、まったく気にかけていない。言い換えれば、たとえプリンストン大学のコンピュータ科学者アルヴィンド・ナラヤナンとサヤシュ・カプールのような研究者にとっても、それは「たわごと生成器」である。
以来、ハリー・フランクフルト氏が「たわごと（bullshit）」を論文の主題として取り上げ、論文、その後書籍を2000年代に出版して以来、それは哲学的概念となった。心理学、哲学、神経科学、経営学の分野の真剣な研究者たちが、現在この主題を研究している。この用語はより複雑になっているが、ここでは本来の定義を参照できる。それは真実への無関心である。嘘ではない。嘘つきは真実を歪めようとするため、真実に関心を持っている。一方、たわごとを語る者は真実を顧みず、ただ人を魅了しようとする。その発言は、時に正しく、時に誤っているかもしれないが、どちらでも構わないのである。
これはまさに、非常に才能豊かなChatGPTにも当てはまる。ChatGPTが誤りを犯したとき、それは明白ではない――少なくとも、すぐには分からない。事実を提示する責任を負わず、誰でも利用できる強力で使いやすい言葉の生成ツールとは？確かに懸念すべき理由がある。悪質なコンテンツの編集者が、このツールを簡単に使って「情報」を生成することは容易に想像できる。特にChatGPTは、自らの専門分野で研究者を欺くことさえできるように見える。
認識論的な悪徳と美徳
問題となっているのは知的倫理の感覚である。一般的な考えとは異なり、（科学的であるかどうかを問わず）知識の生成と獲得は方法の問題だけではない。それは道徳の問題でもある。哲学者は、知的悪徳と美徳について語る。これらは、信頼できる情報の獲得と生成を妨げたり促進したりする性格特性として定義できる。
開かれた心は認識論的美徳の例であり、一方、独断主義は悪徳の例である。これらの概念は、1990年代初頭以降、増え続ける哲学文献で扱われてきた：徳認識論。その目標は知識を正しく定義することだったため、この研究は当初本質的に技術的なものだったが、現在では現代の認識論的問題にも焦点を当てている。すなわち、偽情報、フェイクニュース、そしてもちろんAIがもたらす危険である。
最近まで、AIの認識論的影響について論じてきた徳認識論者は、特に「ディープフェイク」に焦点を当ててきた――OpenAIのようなDALL·EなどのAIによって完全に生成された動画で、実在の人物を完全に捏造された、スキャンダラスな状況に登場させることができ、驚くほどの現実味がある。この研究からの知見は、ChatGPTが及ぼしうる影響を考える上で役立ってきており、おそらくはやや過度だったと思われる悲観論を和らげることにも役立ってきた。
ディープフェイクの生成が問題であることは明らかだが、こうした動画が広く入手可能になることで、一般の人々が画像の役割に対する一種の全般的な懐疑心を抱くようになるかもしれない。それは一種の「知的シニシズム」である。この提案を行った著者（2022年）は、これを、捏造された情報と証拠に基づく情報の両方を人々に疑わせることになるため、認識論的な悪徳とみなした。しかし私は、シニシズムがそれほど悪いことだとは確信していない。それは、画像が情報の獲得においてそれほど重要な役割を果たしていなかった、そう遠くない時代への回帰に等しいだろう。認識論的に言えば、この時代（1930年代以前）が特に悪徳的であったとは、私には思われない。
デジタル感覚を高める
いずれにせよ、このシニシズムは今度は認識論的美徳の発展につながりうる。すなわち、ある種の「デジタル感覚」であり、オンライン上に流通する膨大な画像や動画の中から真偽を正確に見分けられるようにするものである。
このようなデジタル感覚は、ChatGPTによっても高められうる。このAIが生成した文章の読者は、それが吐き出しうる大量のたわごとに辟易し、オンラインで文章を読む際や、画像に直面した際（ディープフェイクに騙されることへの恐れから）、全般的な懐疑心に陥ることなく、より慎重になりうる。
世界経済フォーラムは、人工知能の倫理的な発展をどのように確保しているのか？
より一般的に言えば、AIの台頭は、認識論的美徳を育み、次のような悪徳と闘う必要性を浮き彫りにしうる：ソーシャルメディア上に広がる陰謀論を疑わない一般的な傾向。結局のところ、こうした懸念すべき技術は、知的倫理にとって朗報となりうるかもしれない。
• 本記事は、当初フランス語で掲載されたThe Conversationによる。
