対話は、AI技術の開発者と、その規制を担う政策立案者との間の情報格差によって妨げられている。
AIが安全に革新できるための倫理と規範の枠組みを設定するうえで、知識の構築は極めて重要である。
原則は、合意され、実際に実装されてこそ価値を持つ。
AIが人類、市民社会、一般市民、そして民間部門に与える影響について合意が形成されつつある一方で、市民社会、一般市民、民間部門はいずれも、説明責任と信頼醸成を求める声を強めている。人種、ジェンダー、その他の基準によるAIのバイアス（偏り）や、アルゴリズムの透明性（機械が意思決定を行うルールと方法の明確さ）といった倫理的な問題は、日常的に利用している技術を通じてすでに社会に悪影響を及ぼしている。
産業と社会におけるAIの統合、そして人間の生活への影響は、AIの効果的なガバナンスを確保し、AIがもたらす社会的機会を前進させ、そのリスクを軽減する倫理的・法的枠組みを求めている。AIの開発と展開のサイクル全体について、包括的で共有された理解を生み出す健全な仕組みが必要である。したがって、このガバナンスは本質的に、マルチステークホルダーと学際的な手法および技能を用いた継続的な対話のもとで設計される必要がある。
しかし、この対話は次の事実によって妨げられている。AI技術の開発者は対象に関するすべての情報と理解を有している一方で、その規制を担う政策立案者はほとんど理解していないことが多い。一方では、AI技術のライフサイクル全体を真に理解している政策専門家の数は限られている。他方では、技術提供者は、技術設計に倫理を実装することによって（例えば「倫理的に整合した設計」などを通じて）、誠実にAI政策の形成に関与するための明確さを欠いており、場合によっては関与する意欲も欠いている。
政策立案者－AIの機能に関する理解不足
過去の世代が蒸気機関、電気、インターネットに適応する必要があったように、この世代もAIベースのシステムの基礎技術、原則、そして根本的な影響に慣れ親しむ必要がある。ただし、AIを理解することは一般市民にとって時間がかかる一方で、AIの利用を規制する責任を負う政策立案者は、迅速に知識を習得する必要がある。
米国の議会公聴会は、大手テクノロジー企業の経営陣が証言した場であり、私たちの生活を形作る技術を生み出す企業と、それを規制する立法者との間にある、憂慮すべきデジタルリテラシーの格差を米国の一般市民が目の当たりにする機会となった。米国議会だけがこの問題を抱えているわけではなく、世界各国の政府も同じ課題に直面している。
政策立案者は、AIの規制について最善の決定を下すために必要なすべての答えや専門知識を持っているわけではないが、より良い問いを投げかけることは重要な前進である。AI技術がどのように機能するかについての基本的な理解がなければ、政策立案者は、AIの規制において過度に強硬になるか、逆に私たちの安全を守るための十分な措置を講じず、例えば大規模監視のためにAIベースのシステムを展開するリスクを避けられない可能性がある。したがって、必要とされているのは、政策立案者と規制当局の間でAI教育を再び重視すること、そして政府内の技術人材の資金と採用を増やすことである。および採用を増やすこと。これは、AIに関するプログラム、資金、導入について意思決定を行う人々が、この技術に関する最新の動向について十分な情報を得るためである。
政策立案者は、AIとその潜在的な利点およびリスクに慣れ親しむことによってのみ、法的・倫理的な境界の内でAIの発展をバランスさせつつ、その大きな可能性を活用する、適切な規制を策定することができる。AIに関する知識を備えることは、政策立案者が能動的な利用者にもなることを可能にする。この技術は、政策目標の達成、持続可能な開発目標（SDGs）の議題の推進、そして政府の効率化を支援できるからである。
知識の構築は、AIに関するより賢明な規制を策定するためにも、また政策立案者が技術企業と対等な立場で対話し、AIが安全に革新できる倫理と規範の枠組みを共に設定できるようにするためにも、極めて重要である。したがって、官民対話は「信頼できるAI」の発展にとって鍵となる。
技術提供者－AI倫理に関する理解不足
他の企業の社会的責任と比べて、AIは、社会の行動を反映するため、テクノロジー企業が倫理と信頼に関する議論を進める必要性を加速させている。AIにより、企業は、既存の社会のバイアスを取り返しのつかない規模と速度で指数関数的に増大させる要因となるリスクを抱えている。
したがって、テクノロジー企業は、倫理への理解と適用を確かなものにするために、倫理的リテラシーと学際的研究へのコミットメントの両方を必要としている。しかし、研修や在職中を通じて、AI開発の背後にある技術チームは、人間の社会システムの複雑さ、製品が社会にどのような悪影響を及ぼしうるか、そして設計に倫理をどのように組み込むかについて、体系的に教育を受けていない。
AI技術が展開される社会的・文化的文脈（時には人類にとって重大な影響を伴う）を理解し認識するプロセスには、忍耐と時間が必要である。これは、迅速な利益を得るためにスピードと規模の上に構築されたビジネスモデルの現状と緊張関係にある。ドイツの社会学者ウルリッヒ・ベックがかつて述べたように、今日の倫理は「大陸間を飛ぶ飛行機における自転車のブレーキのような役割を果たしている」。
AIの開発と展開への投資が増えるにつれ、テクノロジー企業は、自社製品に関連する倫理的配慮を特定し、展開前に解決策を透明性をもって実装することが奨励されている。この方法により、企業は確かなリスク軽減戦略を持つことができると同時に、金銭的利益が社会と経済の福祉を犠牲にして得られるものではないことを確保し、それを証明できる。さらに、企業は、否定的な評判を得るリスクを低減できる。これは、AIの利用に関連するものである。
COVID-19パンデミックと次の産業革命の始まりを踏まえ、長期的な持続可能性を見据えた企業は、倫理的AIのビジネス上の根拠を認識しており、それが危機の回避とステークホルダーへのより良い貢献につながる。したがって、テクノロジー企業には、社員の倫理的リテラシーを高め、政策立案者との対話と協働を強化する機会がある。これにより、倫理的な設計によるAIソリューションが成功裏かつ安全に展開・拡大される枠組みの形成と設計に、企業が関与できるようになる。
AIの原則は、適切に実装されてこそ価値を持つ
政策立案者と産業界のリーダーは、特にCOVID-19パンデミックによって生じた例外的な状況においては、縦割りの枠組みから脱却する必要がある。これにより、より継続的かつ実質的な対話が可能になり、経済的・政治的優先事項に直面しても、AIのガバナンスと法整備が形骸化しないようにできる。
政府や国際機関と並行して、一部のテクノロジー企業がAIの開発と展開に関する高次の倫理原則を公表し始めていることは、すでに明らかである（例：Google AI原則、Microsoft AI原則）。しかし、AIの効果的なガバナンスを確保するためには、共通の原則の集合と、それを実践に移すための具体的な方法論について合意するため、企業と政策立案者の間で一貫した対話が行われるべきである。
簡潔に言えば、これらの原則は、合意され、実際に実装されてこそ価値を持つ。そのためには、両者が絶えずコミュニケーションを取る必要がある。企業は、政策立案者に明確な倫理的枠組みと実施の道筋を提供してもらう必要があり、政策立案者は、企業に対して、これらの枠組みが現実のものとなり、私たちが日常的に、意識することなく利用しているAI技術の中に組み込まれるよう確保してもらう必要があるからである。
