コードは自然言語ではなく、開発者の力を引き出して生産性の向上を促すためにAIが必要とする構造化された基盤を提供する。
ソフトウェアエンジニアリングに特化したAIツールは、前例のない効率性をもたらし、開発者が反復的なタスクを任せてより速く革新できるようにする。
合成コードの生成は訓練の限界を打ち破り、プライバシー、拡張性、そして継続的なAIの改善を確保しうる。
生成人工知能(AI)は、退屈で反復的な作業を引き受けることで、人間の生産性と創造性に革命をもたらすことが期待されている。退屈から私たちを解放し、より付加価値の高い仕事に集中できるようにする可能性を秘めている。問題は、それがいつ実現し、どれほどのコストがかかるのかということだ。
2023年、AIへの投資は1,400億ドルを超えたと、市場情報会社 CB Insights。OpenAi and Anthropicだけで230億ドル以上を集めた。OpenAIは2023年末までに150億ドル以上を確保し、Anthropicへの投資は80億ドルを超えた。
米国がAI投資全体のほぼ半分を占めて世界をリードしているが、他の経済圏も投資を拡大している。
世界のAI成長を支えるため、約150億ドルが投資された、2024年上半期に新たなデータセンターへ投資されたと、世界的な不動産サービス企業JLLが報告している。
さらに、データセンターは最終的に2026年までに年間1,000テラワットを消費する可能性があり、国際エネルギー機関(IEA)によると、これは人口1億2,500万人の国である日本の年間電力消費量全体にほぼ相当する。
これらの数字は驚異的だが、この革命を推進する技術への投資額と比べれば見劣りする。
半導体企業のほぼすべてに供給するASMLのCEO、クリストフ・フーケ氏によると、推定5,410億ドルが、より高速でエネルギー効率の高い半導体の研究開発に2024年に投資されており、
前例のない効率性
AI開発に数十億ドルが注ぎ込まれているにもかかわらず、多くのアプリケーションはまだ具体的な経済的リターンをもたらしていない。バイオテクノロジー、メディア、製造業など、さまざまな産業で変革の初期兆候が見られる一方で、これらの変化はまだ大幅な生産性向上や経済成長をもたらすには至っていない。
エコノミスト誌が8月に報じたように、米国勢調査局の最新データによると、米国企業のうちAIを使って財やサービスを生産しているのはわずか5.1%で、今年初めの最高値5.4%から低下している。こうした状況から、大規模言語モデルの限界に疑問を呈する声もある。
私は、生成AI(GenAI)が働き方、コミュニケーション、創造のあり方を変革していると強く信じている。しかし、その途方もないコストを考えると、業界のリーダーとして、AIの影響と適用可能性をこれまで以上に示す責任がある。
poolsideでは、わが国の経済に最も大きな影響を与えうる世界の能力は、ソフトウェアエンジニアリングであり、言語だけでなくコードを通じてモデルを訓練することだと考えている。
生産性というビジョンを実現する最も速い道は、開発者に焦点を当てることにある。Bain & Companyの2024年の社内報告書によると、現在、世界には推定3,800万人のフルタイム開発者がおり、パートタイム開発者も含めると、ほぼ1億人に上る。
また、1日の時間には限りがあり、開発者は設計、コーディング、デバッグ、テスト、リファクタリング、学習、協業などを行う人間の能力によって制限されている。少なくとも、以前はそうだった。
コードで訓練されたGenAIへのアクセスとコードの生成は、インテリジェント時代における次の経済成長の時代を解き放つ鍵となりうる。
AIは前例のない速度で進化しており、そのパラダイムは急速に変わりつつある。GenAIツールによって開発者に力を与えれば、前例のない効率性と創造性、そして待ち望まれている成長を引き出せるかもしれない。
私たちは開発者とコードに焦点を当てている。自然言語とは異なり、コードはAIを訓練するための構造化された精密な基盤を提供する。モデル訓練に利用可能な3兆トークンを超えるコードがあるため、AIに開発者を効果的に支援する方法を教えるための理想的な素材はすでに手元にある。
継続的な改善
他のデータソースが限界に達し始め、世界がスケーリング則の壁にぶつかることを気に病む中、poolsideは「コード実行フィードバックからの強化学習」(RLCEF)と呼ばれる技術を開発し、利用可能なコードデータの天井を打ち破った。
RLCEFは合成コードを継続的に生成するため、日々増えるデータで訓練することが可能になる。これによりモデルは継続的に改善し、ソフトウェア開発にますます特化していく。
これにより開発者は目的に適したモデルを利用でき、反復的な作業を任せて、あらゆる分野で革新と生産性を加速させることができる。
これほど大量の合成データを生成することのもう一つの副次効果は、顧客データがもはや不要になることだ。顧客のインフラ上、ファイアウォールの内側に導入でき、基盤モデルの訓練からは隔離されるため、完全なプライバシーとセキュリティが確保される。
これらはすべて真空状態で起きているわけではない。これら数百万人の開発者は、企業、スタートアップ、大学、病院、公共部門で働いている。今日、あらゆる現代的な組織がソフトウェアに依存していると述べても誇張ではなく、それが組織の成功を可能にする要因の一つである。
2022年6月のマッキンジーの調査によると、上位の経済パフォーマーのほぼ70%が、同業他社の半分にとどまる割合と比べて、競合他社との差別化のために自社のソフトウェアを利用している。
優れたソフトウェアが組織の競争力を決定づける決定的要因であるならば、コードで訓練されたGenAIへのアクセスとコードの生成は、インテリジェント時代における次の経済成長の時代を解き放つ鍵となりうる。


