ChatGPTなどのAIが生成したコンテンツは、正確性と信頼性について疑問を投げかけている。
企業は、生成AI技術がコンテンツ制作を加速させている一方で、それだけに頼るべきではないことを認識しておくべきである。
企業は代わりに、これらの技術を補助ツールとして活用するか、確固たるAI戦略の構築に用いて、リスクを軽減すべきである。
自動化は、正確性と信頼という普遍的価値に深く影響を受ける、機械知能への人間の依存に基づいている。自動化と効率化の取り組みは、これらの原則が遵守されなければ妨げられるだろう。
2022年11月にChatGPTが登場し、その強力な計算能力と、自ら コンテンツを生成する能力によって、まったく新しい自動化の波が世界に訪れた。しかし、ChatGPTとそのライバルであるBardが生成した不正確なコンテンツの中には、こうした人工知能マシンへの公衆の信頼を損なうものもあった。多くの人々はこれらのツールがいかに速くコンテンツを生成できるかに魅了された一方で、その機械生成コンテンツの正確性と信頼性を懸念する人も多かった。
正確な生成AIコンテンツ
コンテンツを生成する深層学習アルゴリズムにおける大きな問題は、そのコンテンツが不正、誤り、偽情報の拡散、あるいは単に誤っているかどうかである。生成人工知能（AI）技術がもたらした偽造の時代について警告する声もあり、個人や企業の名誉毀損を防ぐために、強固なAI規制と戦略を策定すべきだと主張されている。
この状況はますます困難になっている。最近の研究によると、個人がAI生成コンテンツが本物か偽物かを正しく見分けられる確率は、わずか50％しかないという。プログラマーは、倫理的で正しいデータでアルゴリズムを訓練するよう努めているが、現在では、組織が不正な記録を特定するのを支援するスタートアップ企業も存在する。例えば、OAROは、デジタルIDや、コンプライアンス、メディアの認証と検証を行う企業を支援している。
企業は、生成AI技術がコンテンツ制作を加速させ、新たな種類の自動コンテンツ生成マシンを生み出している一方で、それだけに頼るべきではないことを認識しておくべきである。代わりに、これらの技術を補助ツールとして活用するか、確固たるAI戦略の構築に用いて、リスクを軽減すべきである。
生成AIは、コンテンツ生成がビジネスにとって極めて重要な産業で重要な役割を果たすだけでなく、メタバースや将来出現するその他のデジタル宇宙など、他のデジタル環境の提案においても重要な役割を果たす可能性が高い。したがって組織は、AIが生成したモデルと、より微妙な形態の自動意思決定へのその統合を監督するガバナンス機関を設置することが不可欠である。これは役立つが、信頼の問題を自動的に解決するわけではなく、そこから「企業は生成AIを信頼できるのか」という問いが生じる。
信頼できる生成AIコンテンツ
こうした自動コンテンツ作成ツールを信頼できるのだろうか？支持者は、生成AIは、さまざまな要因によって出力の信頼性と信用性が高まっているため信頼できると主張している。主要な決定要素は、学習データの妥当性と品質であり、そしてそのビジネス上の根拠である。
戦略的なビジネス機能としてのAIは、この局面に対応できるかもしれない
企業は、生成AIの信頼性を高めるためのさまざまな計画を立てることができる。マーケティング担当者など、社内の人材がフィードバックや意見を提供し、AIが生成した素材を補足・修正できるコミュニケーション基盤を利用または構築することは、より高い信頼性に向けた大きく根本的な一歩となり得る。
企業は、ソフトウェア開発で用いられているものと同様のアジャイル型プロジェクト管理手法を活用できる。生成AIがコンテンツの一部を作成するたびに、社員がそれを編集し改善してから次の部分に進み、コンテンツが完成するまでこのプロセスを繰り返すことができる。生成AIの助けを借りたこうしたアジャイル型のコンテンツ制作手法は、チャットボットに見られるような、質問をして回答を得るという直線的なやり取りに代わる選択肢を提供する。企業は、各段階でユーザーのフィードバックを取り入れながら、コンテンツを連続した部分やサイクルで生成できることから恩恵を受けるだろう。
信頼性をめぐる競争は始まっている
これまでの研究では、心理的な観点から、ロボットとその出力は、人間が生成した出力よりも信憑性が高いと見なされていることが示されている。さらに支持者は、機械生成情報は客観的であるように設計されており、人間の主観的判断ではなくデータと数学的アルゴリズムに基づいているため、人間の偏見の影響を受けないと主張している。
これらの知見は、企業が自らの信頼でき偏りのないブランドを構築する上で大きな可能性を示している。Penn State大学の研究者が明らかにしたように、顧客が機械を客観的だと見なすなら、特に顧客の金融情報や個人情報を扱う場面では、企業はこれを有利に活用できる。報告書によれば、人々はテクノロジーを信頼しており、テクノロジーが自分のプライバシーを尊重し、隠れた動機を持たないと考えているという。したがって企業は、AIが生成したコンテンツに対するこうした顧客の認識を支える戦略を策定すべきである。
ChatGPTには、あらかじめ定められた成長の軌道は存在せず、その進化の仕方は多くの要因によって形作られるだろう。テクノロジーの未来は、しばしば抵抗の重みや要因によって引き寄せられ、また押し戻される。この段階では試行錯誤が極めて重要であり、人間と機械の協働のための新たな舞台を生み出せるよう取り組むことで、AIが人間を補完する世界を実現できる。
