責任あるAI開発に、オープンソースが不可欠な理由

AI（人工知能）は、今日の世界を形成する最も強力なテクノロジーです。グローバルなサプライチェーンの最適化から創薬プロセスの加速化まで、AIは生活を向上させる大きな可能性を秘めています。しかし、安易に導入すれば、AIは偏見を蔓延させ、産業を根底から覆し、さらには人間の創造性やつながりを低下させ、私たちの日常生活に実害をもたらす可能性があります。

このように、期待とは大きく異なる結果が懸念される中、社会に利益をもたらすAIの活用方法について、熟慮を重ねた議論が必要です。当然、規制しようという声も上がるでしょう。

規制の核心にあるのは、責任あるAIの開発・展開に対する統一的なアプローチの必要性です。公正さを確保するために、AIモデルを多様なデータセットで訓練する必要があるのと同様に、規制が偏りなく策定されるためには、様々なテクノロジーの専門家が規制に関する議論に参加する必要があります。多様な視点がなければ、規制から責任あるAIの基礎としてのオープンソースモデルが漏れてしまうことになりかねません。

米国では、バイデン大統領の「AIの安全、安心、信頼できる開発と利用に関する大統領令」が、責任あるAIの重要な要素をいくつか取り上げています。これにはグラマリー社で優先的に取り組んでいる、信頼性の基準の策定や教育者がAIツールを安全に導入するための支援などが含まれています。

当社の立場が大統領令と異なる点の一つは、責任あるAI開発の核となるオープンソースモデルに対する信念です。

大統領令の第4.6項では、クローズドソースモデルを優先することが示唆されていますが、これはおそらく、大統領令の起草に当たって協議されたハイテク大手の視点を反映したものでしょう。バイデン政権は、オープンソースモデルをクローズドソースモデルとは異なる方法で評価し、オープンソースモデルに特化した勧告を策定する予定です。

私は、オープンソース開発に対するこのような制限は、ハイテク産業、ひいてはエンドユーザーを傷つけることになると考えています。欧州連合が提案した人工知能法についても同様の主張がなされています。

説明すると、クローズドソースのモデルは組織によって管理され、そのコードは使用や監査のために公開されることはありません。クローズドソースの大規模言語モデル（LLM）の例としては、グーグルのPaLM、OpenAIのGPTモデルファミリー、アンソロピックのClaudeなどがあります。第三者はアプリケーションプログラミングインタフェース（API）を通じていくつかのクローズドソースモデルを利用することができますが、コード自体を操作することはできません。

一方、テクノロジーイノベーションインスティテュートのFalcon LLMや、メタのLlama2のようなオープンソースのモデルは、イノベーションの名の下に、一般の人々が自由に使用し、変更することができます。今回の大統領令が暗に示しているように、悪者がオープンソースモデルのコードを意図的に変更し、セキュリティ上の問題につながることを懸念している人もいるかもしれません。

このような脆弱性は、すべてのソフトウェアが抱えているサイバーセキュリティのリスクと変わらないものであり、クローズドソースとオープンソースの両方の開発は何十年もの間受け入れられてきました。ベンチャーキャピタル、アンドリーセン・ホロウィッツのゼネラルパートナーであるマーティン・カサド氏が、バイデン大統領に宛てた書簡にあるように、オープンソースソフトウェアのLinuxは、米国政府全体のクラウドコンピューティングで広く使用されています。

実際、企業におけるオープンソースモデルの利用は増加傾向にあります。レッドハットの2022年版レポート「エンタープライズ向けオープンソースの現状」によると、ITリーダーの80%は企業向けオープンソースソフトウェアの利用を増やすことを期待しており、89%はオープンソースが代替のソフトウェアと同等かそれ以上に安全であると考えています。

さらに、業界でオープンソース開発を促進することで、次のようなメリットがあります。

最後のポイントは強調する価値があるでしょう。バイデン大統領令は、責任あるAIの最も重要な側面（安全性、セキュリティ、信頼性）の多くに焦点を当てていますが、重要な要素である透明性についてはあまり触れていません。

透明性がなければ、AIツールが安全、安心、信頼できるかどうかについて人々が意見を述べることは難しくなります。規制は、データ収集手法の共有から継続的なフィードバックループの導入まで、透明性を向上させる多くの方法を模索して制定されるべきですが、オープンソースモデルはその存在自体が透明性の道標となります。

オープンソースモデルだけが唯一の道ではありません。クローズドソースソフトウェアは、企業がAI製品を収益化する一般的な手法になっています。テック企業のCEOとして、私はクローズドソースモデルの必要性を十分に理解しています。私が恐れているのは、すべてのAI開発がクローズドソースになり、将来的にオープンソース開発が業界にもたらすイノベーション、責任モデル、透明性が低下することです。

テック企業のリーダーたちにとって、規制に従うことが責任あるAIを正しく取り扱っている証拠になることが最も理想的でしょう。だからこそ、私たちはグローバルな舞台で積極的に専門知識を共有し、規制がホリスティック（全体論的）に策定されるようにしなければなりません。

技術者がそれを実現するための3つの方法をご紹介します。

潮の満ち引きがすべての船を持ち上げるように、より強力で責任あるAI業界を構築することは、AIの展開を成功させることにつながります。これには、AIをより安全で透明性の高いものにするオープンソーステクノロジーを共有する権利を守ることも含まれるのです。