テクノロジー分野の現在の不況と人員削減にもかかわらず、生成AI企業は投資家から依然として大きな関心を集めている。
生成AIは創造性の新たな波として人々の期待を集めている一方、これらのモデルが社会に与える影響については懸念もある。
確固たる抑制と均衡の仕組みが整って初めて、生成AI技術・製品のより思慮深く有益な拡大が可能になる。
Stable DiffusionやChatGPTなどの新たに公開されたモデルを受けて、生成AIは技術者、投資家、政策立案者、そして社会全体にとっての「ホットトピック」となっている。
その名が示す通り、生成AIはテキスト、画像、音楽、音声、コード、または動画を生成する。生成AIは新しい概念ではなく、生成AIの背後にある機械学習技術は過去10年にわたって進化してきた。ディープラーニングおよび敵対的生成ネットワーク（GAN）のアプローチが一般的に用いられてきたが、最新のアプローチはトランスフォーマーである。
Generative Pretrained Transformer（GPT）は、ディープラーニングを用いて人間のような文章を生成する大規模言語モデル（LLM）の一種である。「生成的（generative）」と呼ばれるのは、受け取った入力に基づいて新しいテキストを生成できるためであり、「事前学習済み（pretrained）」と呼ばれるのは、特定のタスク向けに微調整される前に大規模なテキストデータのコーパスで学習されるためであり、「トランスフォーマー（transformers）」と呼ばれるのは、入力テキストを処理して出力テキストを生成するためにトランスフォーマーベースのニューラルネットワーク・アーキテクチャを用いるためである。
現在の市場の不況と技術分野での人員削減にもかかわらず、生成AI企業は投資家からの関心を引き続き集めている。Stability AIおよびJasperは、たとえば、それぞれ1億1,000万ドルと1億2,500万ドルを最近調達しており、またSequoiaのような投資家は、生成AI分野が数兆ドル規模の経済価値を生み出し得ると考えている。150社以上のスタートアップがこの分野に登場し、すでに事業を展開している。
生成AIシステムの創発的能力
生成AIは、言語翻訳、テキスト要約、テキスト生成などの典型的な自然言語処理タスクの範囲を超えている。OpenAIの最新リリースであるChatGPTは、爆発的な話題を呼び、100万人のユーザーに達するまでわずか5日間であったが、はるかに広範なタスクにおける画期的なものとして評価されている。現在議論されているユースケースには、検索エンジンの新たなアーキテクチャ検索エンジン；複雑なアルゴリズムの説明；個別化された治療ボットの作成、アプリのゼロからの構築の支援；科学的概念の説明； レシピの作成；および大学入学のエッセイ、などが含まれる。
Midjourney、DALL-E、Stable Diffusionなどのテキストから画像を生成するプログラムは、アート、アニメーション、ゲーム、映画、建築などの制作方法を変える可能性を持っている。Stability AIのクリエイティブ・ディレクターであるBill Cusick氏は、このソフトウェアが「創造性の未来の基盤」であると考えている。
人間と機械の協働という新たな時代を基盤として、楽観論者は、既存のタスクが生成AIシステムによって強化され、アイデア創出と本質的な制作段階が加速することで、生成AIがアーティストやデザイナーの創作プロセスを支援すると主張している。人間と機械の協働に基づくものとして、
創造分野にとどまらず、生成AIモデルはコンピュータ工学などの複雑な科学分野においても変革をもたらす能力を有している。たとえば、Microsoft傘下のGitHub Copilotは、OpenAIのCodexモデルをベースとしており、コードを提案し、開発者がプログラミング作業を自動補完するのを支援している。このシステムは、開発者のコードの最大40%を自動補完できると報告されており、ワークフローを大幅に強化している。
リスクとは何か？
生成AIは創造性の新たな波として人々の期待を集めている一方、これらのモデルが社会に与える影響については懸念もある。デジタルアーティストのGreg Rutkowski氏は、独自の作風で作品を再現するようシステムに指示するだけで、インターネットが自身の作品と区別のつかない作品で溢れかえることを懸念している。美術教授のCarson Grubaugh氏もこの懸念を共有し、エンターテインメント、ビデオゲーム、広告、出版分野で働く商業アーティストを含む創造分野の労働力の大部分が、生成AIモデルの影響によって職を失う可能性があると予測している。
タスクや雇用への重大な影響に加え、生成AIモデルおよびそれに関連する外部性は、AIガバナンスのコミュニティにおいて警鐘を鳴らしている。大規模言語モデルの問題の一つは、虚偽や誤解を招く内容を生成する能力である。Metaのガラクティカ―― 4,800万件の科学論文で学習し、学術論文の要約、数学の問題の解決、科学コードの作成を謳ったモデル――は、オンライン公開後3日足らずで、科学コミュニティが科学的事実や知識を誤解したうえで誤った結果を生成していることを発見し、削除された。
これは、自動化されたトロールボットの文脈で見るとさらに憂慮すべきものであり、その能力は、チューリング・テスト――機械が人間と同様または人間と区別できない知的な振る舞いを示す能力を測るテスト――を時代遅れにするほど高度化している。こうした能力は、プラットフォームやエコシステム全体にわたってフェイクニュースや偽情報を生成するために悪用されかねない。
大規模モデルは、書籍、記事、ウェブサイトに由来する膨大なデータセットで引き続き学習されているが、そこには完全に除去することが困難な偏りが含まれている可能性がある。ChatGPTの場合、人間のフィードバックによる強化学習（RLHF）の活用により有害で不正確な出力は大幅に減少したものの、OpenAIは、自社のモデルが依然として有害で偏った出力を生成し得ることを認めている。
生成AIはどのように統治されているか？
民間部門では、生成AIモデルのガバナンスに関する2つのアプローチが現在登場しつつある。一方の陣営では、OpenAIのような企業が、限定的なリリース戦略、モデル利用の監視、そして商用製品（DALL-E2など）へのAPIを通じたアクセス管理によって、この分野を自主的に統治している。もう一方の陣営では、Stability AIのような新しい組織が、アクセスを民主化し、社会と経済に対して可能な限り大きな影響を与えるため、これらのモデルを公開すべきだと考えている。Stability AIは、自社モデルの重みをオープンソース化した。その結果、開発者は拡散プロセスにほとんど、あるいはまったく制御を設けずに、それを様々なものに組み込み、数多くの新しい視覚効果を生み出すことが事実上可能になっている。
公共部門では、急速に進化する生成AIの状況をほとんど、あるいはまったく規制していない。ホワイトハウス宛ての最近の書簡において、米国議員のAnna Eshoo氏は「重大な懸念」を表明し、Stability AIによるStable Diffusionモデルの最近の安全でないリリース、および暴力的・性的な画像の生成を問題視した。
その他の問題としては、知的財産と著作権がある。生成AIモデルの背後にあるデータセットは、一般的に、存命のアーティストや著作権が存続する作品の同意を得ずに、インターネットからスクレイピングされている。「存命のアーティストの作風を、その作品をライセンス供与されることなく学習させたモデルであれば、著作権上の問題が生じる」とは、ホワイトハウスのAI政策タスクフォースに参加しているDaniela Braga氏の見解である。
著作権の問題は、自動補完されるコードの分野でも顕在化している。Microsoftの GitHub Copilotは、「前例のない規模のソフトウェア海賊行為」に基づいて構築されたとする集団訴訟に関与している。Copilotは、ウェブからスクレイピングした公開コードリポジトリで学習されており、多くの場合、そのコードを再利用する際に作成者のクレジット表記を求めるライセンスの下で公開されている。
今後の展望は？
生成AIは多くの分野やタスクにおいてゲームチェンジャーであるが、これらのモデルの拡散、ならびに社会と経済への影響をより慎重に統治する強い必要性がある。今後数年間にわたり、生成AIコミュニティにとって重要となるのは、一方における、強固な倫理的境界を伴う、集中的かつ管理された導入と、他方における、より迅速なイノベーションと分散型の普及との間で生まれつつある議論である。
これは民間企業だけに委ねられるべき課題ではなく、市民社会や政策立案者が意見を述べることも同様に重要である。これには、労働市場の混乱、スクレイピングされたデータの正当性、ライセンス、著作権、偏った内容や有害な内容が生じる可能性、誤情報などが含まれる。確固たる抑制と均衡の仕組みが整って初めて、生成AI技術・製品のより思慮深く有益な拡大を実現できる。
