スチュアート・ラッセルは、強固な安全規制を整えるためにAI開発を一時停止するよう呼びかけています。彼の見解を知り、詳しくは動画をご覧ください。
AIの安全性への懸念が高まるなか、バークレー大学の教授スチュアート・ラッセルは、規制が追いつくためにAI開発を一時停止する緊急の必要性を強調しています。規制されていないAI技術に関連する潜在的な災害を防ぐため、責任ある監督を提唱しています。また、『Human Compatible』の著者でもあります。
AI開発の一時停止を求める声
AIの第一人者であるスチュアート・ラッセルは、安全性を優先するため、AIの進歩を6か月間停止するよう求める1,000人を超える専門家に加わっています。彼は、公開書簡はAI研究の禁止を求めるものではなく、急速な技術の発展と遅々として進まない規制対応との隔たりに対処するよう呼びかけるものだと説明しています。
2022年11月のChatGPTの公開は、AIの可能性とリスクの両方を明らかにしました。大規模言語モデルは、生物兵器の製造方法など有害な出力を生成することがあり、その仕組みが真実よりも確率を重視していることを浮き彫りにしています。
たとえば、ChatGPTは性的嫌がらせ事件をでっち上げ、無実の人の評判を傷つけました。ラッセルは、危険なプロンプトを避けるよう助言するだけでなく、開発者にはより強い規制が必要だと主張しています。AIは人間になりすましたり、攻撃的な言葉を使ったりすべきではないと訴えています。設計上の欠陥があると、こうした問題の修正が難しくなるためです。
目指すべきなのは、本当に有益な出力を生み出すことです。最高リスク責任者を対象とした調査では、AI開発が倫理的リスク管理を上回るペースで進んでおり、大半が規制の迅速化を支持していることが分かりました。ラッセルと共同署名者たちは「実効性のある規制」を求め、AIの制御を失えば深刻な結果を招く恐れがあると警告しています。これは、災害が起きる前に地球防衛システムを構築することになぞらえ、安全で有益なAIシステムの必要性を強調しています。
