ナイトシェードは、画像を生成するAIプログラムを混乱させるため、シカゴ大学で開発された「データ汚染ツール」です。
アーティストは、許可なく自身の作品をAIが利用することを阻止するために、このツールを導入することができます。
生成AIは、世界経済フォーラムの「2023年の新興技術トップ10」において、世界で2番目に重要な新興技術に位置付けられています。
「ナイトシェード（nightshade）」という言葉からは、猛毒の植物であるベラドンナ（deadly nightshade）が連想されます。しかし現在では、人工知能（AI）による作品の無断利用に対抗するアーティストを支援する「データ汚染ツール」の名称にもなっています。
ナイトシェードは、シカゴ大学のコンピューター科学者によって開発されました。研究成果については、次の論文が発表されています。「Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models（テキストから画像を生成する生成モデルに対するプロンプト特化型のポイズニング攻撃）」。
ナイトシェードとは？
ナイトシェードを使うと、アーティストは作品のピクセルを、人間の目には見えない方法で変更できます。これによりAIプログラムは誤認し、画像に描かれているものを別のものだと判断する一方で、鑑賞者には異なるものが見えます。
「犬が猫になり、車が牛になる、などです」と、MIT Technology Reviewは、ナイトシェードに関するプレビュー記事で説明しています。
世界経済フォーラムは、人工知能のためのガードレールをどのように構築しているのか？
AI卓越性センターは、業界の垣根を越えてリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に与える影響を理解する支援を行っています。AI導入に伴う機会、リスク、トレードオフに関する、十分な情報に基づいた対話を支援しています。
信頼できる場や協働イニシアチブを通じて、同センターはパートナーが共通理解を築き、AIの革新と利用に関する責任ある取り組みについて協力できるよう支援しています。
このアプローチは「データの汚染（ポイズニング）」として知られています。これにより、生成AIツールは、乱れた画像や、検索されたものと一致しない画像を生成するようになります。
AIツールはオンライン上の数十億枚の画像からデータを抽出するため、ナイトシェードの利用が広がるほど、AIが汚染される可能性が高まると、MIT Technology Reviewは付け加えています。
ナイトシェードはなぜ開発されたのか？
ナイトシェード・プロジェクトを主導するシカゴ大学のコンピューター科学教授ベン・ジャオ氏は、AI企業は許可なくアーティストの作品を使って画像生成ツールを学習させることで、アーティストの著作権と知的財産権を軽視していると述べています。
同氏は、ナイトシェードによりこうした行為を抑止し、アーティストに権利を取り戻すことを期待しています。
アーティスト、パフォーマーおよびレコードレーベルは、ChatGPTの開発元であるOpenAIを含むAI企業に対し、次の行為を理由に訴訟を提起しています。許可なくアーティストの素材を使ってAIを学習させたことと、テクノロジーニュースサイトVentureBeatは報じています。
ナイトシェードはAI業界にどのような影響を与える可能性があるか？
MIT記事の寄稿者によれば、AI企業がアーティストとその権利をより尊重することを強いられた場合、例えば使用料の支払いに同意するといった形で、ナイトシェードは大きな影響を及ぼす可能性があります。
一部のAI企業には、アーティストが自身の作品を生成AIの学習に使用されないようオプトアウトできる仕組みがあります。しかし、アーティストは、これでは不十分であり、AI企業は依然として過大な力を持っていると主張しています。
生成AIは世界的な新興技術である
生成AIは、世界経済フォーラムの「2023年の新興技術トップ10」に挙げられた主要技術の一つです。
本報告書は、今後3～5年間に社会へ好影響を与えると期待される技術に焦点を当てています。生成AIは第2位に位置付けられています。
「生成AIは現在のところ、テキスト、コンピュータープログラミング、画像、音声の生成が中心ですが、この技術は創薬、建築、エンジニアリングを含む、さまざまな用途に応用される可能性があります」と、フォーラムは述べています。
ただし、生成AIのアプリケーションは、合意された専門的・倫理的基準を満たすことで、公共の信頼を築くべきです。
