本記事は The Conversationとの協力により掲載されています。
ロボット工学者の Sabine Hauert氏（英国ブリストル大学所属）は、 今年初め『Nature』誌に寄稿した 記事で次のように述べています：
私と同僚は、ディナーパーティーで自分たちが邪悪ではないと説明することに時間を費やしている […]
彼女は、人々が不安を抱いていると述べています。
人々が耳にするのは、ほぼ一方的な議論であり、そのため、ロボットに仕事を奪われるのではないかと心配し、AIが実存的脅威をもたらすのではないかと恐れ、仮定の技術を「管理下」に置くために法律を制定すべきかと考えるようになっている。
こうした恐れは、ハリウッドから生み出され続けるAI（人工知能）およびロボット恐怖症的な脚本の蔓延によって、和らぐどころか助長されている。
ロボットやAIが登場する最近の主流映画で、AI恐怖症的（Transcendence、 Eagle Eye）やロボット恐怖症的（Oblivion、いずれかの Robocop 作品、 Ex Machina）の場面に染まっていない例を挙げるのは難しい。
独立系の軽妙な犯罪映画『 Robot and Frank 』と、AIが人間を比較的穏やかに切り捨てる描写のある『 Her』（その後、より格好いいAlan Watts的な超知能たちと過ごすために去っていく）は、 AIパニック やロボット恐怖症という支配的な空気に屈していない、思い浮かぶ作品はこの2本だけである。
ロボットやAIは映画では優れた悪役になる。しかし現実には、ロボットに「欲する」あるいは「感じる」 何か を、現象学的に説得力のある形で実現する方法は、今のところほとんど誰にも分かっていない。ましてや、ロボットを世界征服と Homo sapiensの絶滅に執着するサイコパスに仕立てる方法など、なおさら分からない。
彼らは、無邪気に危険な idiot savants になる可能性のほうが高く、人間に「膝を屈させる」ことで病的な快感を得ようとする悪意ある支配者になる可能性は低い。
ルールに従って動くロボットはチェスで巧みに勝負するが、 勝敗について何も感じ ない。ただ、数学的な価値関数を最適化する手を選んでいるにすぎない。人間は知性を欲望と結びつけるが、 チューリング機械の規則書で形式的にモデル化された 「欲望」は、人間を駆り立てる燃えるような怒り、嫉妬、「運命に引き裂かれた恋」の激しい力とは、まったく別物である。
責任あるロボット
週末、AIとロボティクスに関する2つの新しい非営利団体が発足した。それぞれ異なる形で、どちらもAIとロボットの安全性に対する一般の懸念への対応である。
その一つ目は「The Foundation for Responsible Robotics」（FRR）であり、「私たちの社会に組み込まれたロボットに対する責任を促進する」ことを目指している。
FRRは、 Noel Sharkey やさまざまなロボティクスの専門家らによって率いられている。同財団は、政策立案者に働きかけ、ロボティクス、法律、倫理、社会に関する研究者による学際的チームを編成し、ロボティクス研究者・設計者として「責任ある」とは何を意味するのかを探求し、ワークショップを実施し、一般市民とも関わることを目指している。
Sharkey氏は、 「Campaign to Stop Killer Robots」での活動で知られ、「私たちはロボット革命へと猛然と突き進んでおり」、起こりうる社会問題について十分な政策的検討を加えないことを懸念している。
同氏は、各国政府がロボティクスを「強力な新たな経済的推進力」と見なしている一方で、「数多くの潜在的な社会的危険に対しては、口先だけの対応しかなされていない」と述べている。
新技術は、 大量失業 を引き起こしかねない。あるいは、ロボットや自動化により社会的不平等が加速し、ロボットの所有者（ゲート付きコミュニティに住む）と、ロボットを持たない下層階級（焼けた茶色の大地で苦闘する）とに社会が分断される可能性もある。これは 『Elysium』 で描かれたような状況である。
FRRは、一般市民がロボティクス研究に信頼を寄せられるようにし、ロボットが人権と選択の自由を十分に考慮して開発されるよう目指している。
すべての人のためのAI
Open AIは、 Elon Musk、 Peter Thiel 、そしてさまざまなテクノロジー起業家の支援を受けている。
同社の焦点は、研究と、先進的なAIを自由に利用できるようにすることに重きが置かれている。同社は「ディープラーニング」の革新を追求しており、これは「問題ごとに新しいアルゴリズムを手作業でコード化するのではなく、与えられたデータに基づいてさまざまなアルゴリズムへと自ら形を変えられるアーキテクチャを設計する」技術である。
同社は、「財務的な利益を生み出す必要に縛られず、人類全体にとって最も利益となる方法でデジタル知能を進歩させる」ことを目指している。
「人間レベルのAI」が到来した際、Open AIは、「自己利益よりも全員にとって良い結果を優先できる、主導的な研究機関」が存在することが重要だと考えている。
同社は、「当社の研究者は、論文、ブログ記事、コードのいずれの形であれ、研究成果を積極的に公表することを奨励され、当社の特許（もしあれば）は世界と共有される」と述べている。
Open AIの支援者らは10億ドルの資金拠出を約束しているが、同社は「今後数年間にこのうちわずかな割合しか支出しない」ことを見込んでいる。
Open AIは主に、先進的AIへのオープンなアクセスを重視しており、それによってAIを持つ者と持たざる者に分かれる世界のリスクを減らしている。これは良い考えである。もしチームが競争力と先進性を保ちながらAIをオープンソースとして維持できれば、経済的な理由によって人々が先進的AIから締め出されるリスクを減らせるはずである。
The Foundation for Responsible Robotics は、政策への関与と、ロボット倫理の問題に対する専門家および一般市民の認識向上というより幅広い課題を掲げている。これもまた価値のある取り組みである。AIおよびロボティクスの研究者は、倫理的議論に不慣れな、いわゆるハードサイエンスの研究者である傾向がある。
科学者は、経験的な領域から出て規範的な領域へと踏み出す必要がある。市民から信頼される思想的リーダーとして、「である」と「べきである」の境界を越え、政策論争に参加すべきである。
願わくは、この二つの団体が、現在蔓延しているAIパニックとロボット恐怖症の治療法をもたらす一助となることを期待したい。
本記事の掲載は、世界経済フォーラムによる見解の支持を意味するものではない。
Agendaの最新情報を追うには、 当社の週刊ニュースレターに登録してください。
著者：Sean Welshは、カンタベリー大学でロボット倫理学を専攻する博士課程候補者である。
画像：式典中に「赤面する」ヒューマノイドロボット。REUTERS/Wolfgang Rattay。
