この記事は、世界経済フォーラムの地政学戦略プラットフォーム
人工知能（AI）の技術的進歩は広範に及ぶと期待されており、健康、経済、安全保障、ガバナンスに影響と波及効果をもたらします。
他の新興技術や融合しつつある技術と組み合わせることで、AIは、より良い意思決定と人間の状態の改善を通じて、社会を変革する可能性を秘めています。
しかし、適切なリスク評価と軽減策がなければ、AIは防衛体制、経済システム、社会構造にすでに存在する脆弱性を脅かす可能性があると、ウィルソン・センターの報告書の著者らは論じています。同報告書の題名は、『人工知能：政策志向の入門』。著者はアン・バウザー、マイケル・スローン、ピエトロ・ミケルッチ、エレオノール・ポーウェルズです。
社会における技術の統合が進んでいることを踏まえ、この政策概要は、AIをめぐる現在の高揚感を、能力の動向に関する客観的な分析に基づいて捉え直し、認識されている恩恵とリスクを要約します。また、人間計算と呼ばれるAIの新興サブ分野も紹介します。これは、純粋なAIだけではなお不十分な領域で、人間を戦略的に処理の輪に組み込むことで、将来のAI能力の実現を後押しできます。
政策提言では、科学と社会にとっての恩恵を最大化し、リスクを最小化する方法を示しています。特に、複雑な社会技術システムに人間の参加を取り入れ、自動化された知能の安全で公平な発展を確保することを提案しています。
報告書は、次のような主要な提言を示しています。
複雑性の時代における計画：政策立案者と資金提供者への提言
AIは第4次産業革命（4IR）の重要な構成要素です。第4次産業革命とは、「物理、デジタル、生物学的な領域の境界を曖昧にする技術の融合」です。
第4次産業革命は、人間生活のあらゆる側面に浸透する複雑な社会技術システムの中で、新興技術と新しい技術が融合することを特徴としています
undefined
機械化、大量生産、自動化などのプロセスを伴った過去の革命と比べ、第4次産業革命は、人間生活のあらゆる側面に浸透する複雑な社会技術システムの中で、新興技術と新しい技術が融合することを特徴としています。
融合はまた、AI、ゲノミクス、ナノテクノロジーなど、複数の分野の相互作用が強まることも意味します。その結果、科学政策の検討で考慮すべき潜在的影響の範囲が急速に広がります。
10年前、ナノテクノロジーは主に化学や材料科学への影響という点で注目されていました。しかし、遺伝子に関わるスケールで物質を精密に設計できるようになり、ゲノミクスや神経科学は大きく進歩しました。たとえば、ニューロンのネットワークをモデル化できるようになりました。この例は、AIとゲノミクスという2つの新興技術の融合が、それぞれ単独で持つ当初の能力を超える進歩につながることを示しています。
融合がもたらす課題に取り組むには、幅広い専門知識を結集し、責任ある研究とイノベーションを促進するためのシステム的なアプローチを取る必要があります。
AIの設計プロセスにおける「部外者」である政策立案者にとって、技術の仕組みに関する理解が限られているため、AIの発展を見積もることは非常に困難です。また、多くの人がAIには不適切な従来の規制モデルを参考にし、研究者が使う用語の意味を解読しようと後追いに終始するか、新技術の短期的な能力を過大評価するという人間の誤りに陥る可能性もあります。
今後数十年でAIを通じたシステムの大きな変革が起こるでしょう。ただし、それは私たちが恐れたり想像したりするほど急激ではなく、段階的なものかもしれません。
民間セクターや大学の第一線の研究者とともに、AIについて幅広く深い調査を実施する。
米国では、スタンフォード大学などの機関に所属する政策機関や研究者による初期の報告書が、AIの研究開発に関する大局的なロードマップを示しています。IEEEなどの組織のもとに集まる専門家グループは、人間の幸福を最大化するための倫理に沿ったAI設計などを詳細に検討し、こうした概観を補っています。
近い将来、政策立案者と協力するAI研究者は、AIに関連する側面をより細かく理解し、予測するため、さらに踏み込んだ調査を行うべきです。たとえば、雇用の自動化について、時期、産業分野、賃金水準、学歴、職種、地域ごとの影響を検討します。たとえば、手先の高度な器用さを要する低技能の仕事よりも、定型的だが高度な認知技能を要する仕事のほうが、AIシステムに置き換えられる可能性が高いかもしれません。国家安全保障などの分野も追加調査の対象となり得ます。
他の新興技術を考慮し、人間の参加を促すシステム的なAI研究開発のアプローチを提唱する。
人間と機械がネットワークを築き、感知し、考え、行動することで、人間単独またはAIシステム単独よりも高い効果を共同で発揮することは、私たちの手の届くところにあります
undefined
AIは機械に人間の知能を再現しようとしますが、人間のような知能はすでに人間に備わっています。今日、人間の認知能力と利用可能な最良のAI手法を組み合わせ、ハイブリッド型の分散知能システムを構築することで、超人的な知能を開発する機会があります。つまり、人間と機械がネットワークを築き、感知し、考え、行動することで、人間単独またはAIシステム単独よりも高い効果を共同で発揮することは、私たちの手の届くところにあります。
人間計算として知られるAIの新興サブ分野は、さまざまな情報処理システムの処理過程に人間を組み込み、機械のAIの能力を超える作業を担わせることで、まさにこうした可能性を探っています。そのため、人間計算は冗談めかして「人工的なAI」と呼ばれています。
人間計算の強力な例は、stardust@homeのような市民科学プラットフォームに見られます。そこでは3万人の参加者が、100万枚のデジタル画像に隠れていた星間塵の粒子を5つ発見しました。また、Stall Catchersでは、何千人ものオンラインゲーム参加者がアルツハイマー病の治療法の発見を早める手助けをしています。
人間計算には、情報を集約して世界で最も包括的な人類の知識集を築くウィキペディアのようなクラウドソーシング・プラットフォームや、ウェブサイト上で人間であることを確認すると同時に画像から情報を抽出する二重の目的を持つreCAPTCHAも含まれます。
さらに、Habitat Networkのようなプラットフォームは、オンラインとオフラインの行動の相互作用を活用し、人々の身近な地域で自然保護につながる行動を促します。
こうした大規模な集団行動は、内燃機関の利用など、有害な集団行動によって生じた社会問題に対抗する唯一の手段かもしれません。こうした「第1世代」の人間計算アプリケーションの例は、ハイブリッド型の人間・機械システムに秘められた可能性の一端を示すにすぎません。
人間計算をAIに取り入れるアプローチは、社会に関わるシステムの意思決定や行動を人間の利害関係者が導くよう、処理の輪に人間を含めてAIシステムを設計することで、こうしたディストピア的な懸念に対処します。T
ハイブリッド型の思考システムにおいて、人間と技術の共進化を慎重に考慮しながらAIシステムを意識的に開発することは、システムが超人的な能力を獲得しても、個人としても集団としても人間が最終的な主導権を保つために役立ちます。
イノベーションを促進し、規制の中央集権化や大幅な拡大を避ける。
現行のAI規制は製品に追加される形をとるため、既存の立法権限のもとに組み込まれています。たとえば、食品医薬品局（FDA）は精密医療の取り組みを規制し、運輸省（DoT）傘下の国家道路交通安全局は自動運転車に関する指針を示す一方、主要な決定は各州に委ねています。規制の拡大と中央集権化は成長を妨げるという点で、専門家の意見は一致しています。
「曖昧な目標」と幅広い透明性要件の組み合わせが企業による消費者プライバシーの優先を促してきたことを踏まえ、一部の研究者はAIにも同様のアプローチを提唱しています。強力な透明性要件によってイノベーションを促すと同時に、説明責任を確保するというものです。
同時に、共通の課題に対処して公共の利益を守る必要があります。これには、安全指針や事故調査の手順の策定、個人のプライバシーと公共の安全の保護、透明性のある意思決定を行うシステムの設計、効果的な科学コミュニケーションによる世論の形成が含まれます。
指針を示し、専門分野ごとのコミュニティを構築または支援することで、恩恵を最大化し、リスクを最小化することを目指す。こうした取り組みは、幅広い視野と創造的な活動を促す助けにもなります。
連邦政府内のトップダウン型の調整を促進するため、オバマ政権は2016年、国家科学技術会議（NSTC）の機械学習・人工知能小委員会を設置しました。
しかし、機関をまたぐイノベーションは、草の根のボトムアップ型コミュニティからも生まれます。Digital.govが支援する連邦政府の実践コミュニティ（COP）は、共通の戦略を共有し、策定する重要な拠点です。
あるCOPはすでに、市民サービスの提供における人工知能の役割を検討しています。行政機関の指針は、さらに多くのCOPの設立を促す可能性があります。
公共部門はAIの研究開発における重要な利害関係者であるとともに、貴重な専門知識の源でもあります。
市民の参加を促す第一歩として、オバマ政権は複数の大学や非政府組織（NGO）と5つのワークショップを共催し、情報提供依頼（RFI）を一般に向けて発出しました。追加の会合を開けば、業界のリーダーに加え、州・地方政府の提唱者や顧客の知見も活用できるでしょう。
単発のイベントにとどまらず、政府が掲げる開放性と透明性の理念に沿って、市民参加とアウトリーチの継続的なプログラムも支援すべきです。すでに活動しているプログラムの一例が、科学技術に関する専門家・市民評価（ECAST）ネットワークです。大学、超党派の政策研究機関、科学教育者が連携し、新興の科学技術政策課題について市民に情報を提供するとともに、より十分な情報に基づく意思決定を促すため、市民の意見を募っています。
助成金に加え、賞金付きコンテストや課題解決コンテストを通じて、人工知能の研究開発を推進する。
基礎研究が商業的な成果を生むまでには数十年かかることがありますが、クロード・シャノンの情報理論のような研究は、後のインターネットなどの発展を可能にしました。この例は理論研究の価値を示しています。
AIを前進させる基盤研究は、安全・セキュリティ指針の策定、有能な人材を育成する方法の探究、標準とベンチマークの活用促進、倫理・法律・社会に関する主要な影響の解明に役立つべきです。
各機関は、ロボティクス、データ分析、知覚などの分野を引き続き優先しながら、人間計算などを通じて、人間とAIの協働に関する知識と実践も発展させるべきです。
応用AIの研究開発は、多様な利害関係者が資金を申請し、新技術を調達し、優れた研究者を採用しながら、戦略的に協力・競争するイノベーションのエコシステムの中で進みます。
資金提供機関は、競争前段階の研究において産業界、学術界、政府の利害を結び付け、協働を促すべきです。全米科学財団（NSF）の産学協同研究センター・プログラム（IUCRC）はすでに、自律型航空ロボティクスの基盤を前進させるための協働を可能にしています。
また、中小企業イノベーション研究（SBIR）助成金もあります。これにより、中小企業は商業的な実現可能性を持つハイリスク・ハイリターン技術を探究できます。
賞金付きコンテストや課題解決コンテストの影響を定量化することは困難ですが、国防高等研究計画局（DARPA）は、グランド・チャレンジから10年後には「防衛および商業用途が広がっている」と見ています。
賞や課題は、民間セクターの個人やグループに新しいアイデアの共有や技術的・科学的な解決策の創出を促す手段です。こうした仕組みは、各機関の特定の使命を前進させる、対象を絞ったAI開発を探究する低コストの機会となります。
