COVID-19は、テクノロジー開発において人権とプライバシーを考慮する必要性を改めて浮き彫りにしました。
柔軟に適応できる倫理ガイドラインの体系は、チームが責任あるテクノロジーソリューションを構築する助けとなります。
パンデミックと戦うための技術ソリューションを急いで開発したことで、データプライバシーと倫理面の懸念が一気に高まり、特に、社会的に疎外されたコミュニティが数多くの形で影響を受けてきたことに関して、懸念が一層強まりました。
テクノロジーが長期的に信頼されるためには、人権とプライバシーを考慮しなければなりません。実際、従業員の信頼を示し、それを獲得することは、今日の企業が直面する最も重要な課題の一つです。
設計段階からの倫理（Ethics by design）とは、設計、開発、導入のすべての段階に倫理的なガードレールを組み込む枠組みです。このアプローチは、特に危機の急激な局面において、責任あるテクノロジーソリューションを構築するための中核をなすものです。
今春、SalesforceがCOVID-19危機に対応する新たなテクノロジーソリューションに取り組んだ際、私たちは価値観に基づくガイドラインを策定し、構築しているテクノロジーに倫理的な利用を組み込みました。これらのガイドラインを策定する過程で、危機の時代にテクノロジーをどのように構築すべきか、そして倫理がどのようにイノベーションを促進するために活用できるかについて、重要な教訓を得ました。これまでに得られた教訓の一部を以下にご紹介します。
世界経済フォーラムは、多様性、公平性、包摂性（DEI）についてどのような取り組みを行っていますか？
新経済社会センターは、経済と技術の変化が雇用、スキル、機会をどのように再構築しているのかを理解するために、リーダーをつなぎます。
センターは、共有された知見と協力を通じて、パートナーが移行期を通じて人々と社会を支える、包摂的な経済モデルを探求できるようにします。
1）コミュニティの声に耳を傾ける
倫理的なガイドラインを策定する中核は、コミュニティの中で最も疎外された人々を守り、製品がどのように彼らに影響を与えうるかを常に念頭に置くことです。私たちはこれを「意図と影響」という観点から捉えています。私たちの意図がどうであれ、自らの行動がもたらす影響を考慮する責任があります。
そのためには、フィードバックを取り入れ、コミュニティの幅広い層から意見を集めるようにしてください。これには、多様な対象者によるフォーカスグループの実施や、さまざまな経験や懸念を理解するために従業員リソースグループと密接に連携することが含まれる場合があります。
また、公衆衛生や医療の専門家、さらにプライバシーの専門家など、多様な専門家を積極的に関与させる方法も検討してください。ガイドラインを策定する際、私たちは国際連合（国連）および赤十字国際委員会の基準、ならびに一般データ保護規則（GDPR）のようなプライバシーおよびデータ保護規制の原則を参照しました。また、従業員リソースグループ、倫理的利用に関する諮問評議会、その他の市民社会団体とも協議しました。さらに、倫理的な製品開発ツール、組織設計、従業員への権限付与などの分野におけるベストプラクティスを共有するため、世界経済フォーラムの責任あるテクノロジー利用プロジェクトと連携しました。
加えて、私たちは幅広い課題について、より広範な意見やフィードバックを得るため、倫理的利用に関する諮問評議会と定期的に協議しています。評議会の会合では、製品に直接携わる従業員や経営幹部からも、当社の事業と業務に影響を与える重要な問題について意見を聞いています。
2）ガイダンスをわかりやすく、実践可能なものにする
危機下でガイドラインを効果的であると見なされるためには、対象者がそれを迅速に理解し、実行できることが極めて重要です。私たちが最初にフォーカスグループで自社の従業員にガイドラインを提示した際、「学術論文のようだ」、と言われました。内容が非常に長く、情報が密集していたためです。
ガイダンスは、形式と内容の両面で、対象者ごとに合わせて調整する必要があります。その結果、製品チームがエンドユーザーの立場で考えられるよう、一連の実際的な質問を通じて理解を促すスライド資料を作成しました。一方、営業チームは手軽に消化できるコンテンツを求めていたため、ガイダンスが顧客の課題をどのように解決するかを短い動画で説明するFAQ文書を作成しました。
設計プロセスに倫理を組み込むことは、多くの人にとってまだ新しい概念であり、短い期限のもとでは見落とされやすい要素です。COVID-19対応ガイドラインの最初の版では、多くの従業員から「これは素晴らしいが、これは私にとってどういう意味があるのか？」という疑問が寄せられました。ガイドラインを迅速に活用してもらうためには、チームとより密接に連携し、真に「当事者として」関わる必要があると学びました。そのため、チームのスタンドアップ・ミーティングに参加し、製品ロードマップの早い段階から関与し、さまざまなグループ向けにライブトレーニングを実施して、ガイドラインがチームの業務に適合するよう、時間と資源を投じました。
3）継続的なフィードバックの仕組みを構築する
完璧なプロトタイプは存在しませんが、初期設計を改善するには、継続的にフィードバックを収集することが不可欠です。製品は問題を解決しているのか、それとも新たな問題を生み出しているのか。約束どおりの成果を届けているのか。ガイドラインの各版を共有するたびに、私たちは従業員自身はもちろん、顧客やパートナーからも直接フィードバックを求めてきました。製品のプロジェクト計画を立てる際には、主要なマイルストーンの段階でフィードバックを反映する余地を確保しておくようにしてください。
私たちは、製品や顧客からの質問がもたらす意図しない結果など、倫理的利用に関する懸念について継続的に従業員からのフィードバックを求めており、従業員が懸念を伝えられるさまざまな手段を提供しています。倫理・人道的利用室に連絡できる方法は多数用意されており、従業員が直面している問題を把握するためのオフィスアワーも設けています。
COVID-19ガイドラインを策定する際には、技術、マーケティング、製品部門の従業員を対象にフォーカスグループも実施し、ガイダンスの妥当性を検証し、次のステップを形作りました。「ガイドラインは分かりやすいですか」や「他にどのような資源が必要ですか」といった質問を投げかけました。フォーカスグループには、すでに倫理的利用を推進している従業員に加え、この分野にあまり馴染みがないかもしれない無作為に選ばれた従業員のグループも含めました。
4）危機の後の生活を見据えた計画を立てる
COVID-19危機は、策定するどのガイドラインも、復興の過程およびその後も活用できるようにすることの重要性を改めて示しています。変化するニーズを反映し、長期的な視点に立つことが求められます。
たとえばデータ共有に関して、COVID-19危機の差し迫った危険は、体温やその他のCOVID-19の症状など、これまでなら共有しなかったかもしれないデータを、より多くの人が進んで共有するようになりました。しかし、復興が進むにつれてその意欲は薄れるかもしれず、その選択を守ることが重要です。そのため、ガイドラインには、ソリューションを有効にするために必要な期間に限ってデータを保持するための措置を含め、可能な限り情報を匿名化・集約するための選択肢を用意すべきです。
「危機からの再建は、責任をもって行えば、前向きな変化と成長の機会を生み出します。」
5）テクノロジーと社会とともに進化する
私たちのガイドラインは完璧ではなく、今後も進化を続けていきます。その進化は、前例のない時代において、国や地域社会、そして既存の慣行に絶えず挑戦する技術的ブレークスルーによって解決策が流動的に変わる中で、役立ち続けるために不可欠です。
危機に直面すると、関係するすべての集団から意見を聞いたり、すべての課題に取り組んだりするための時間や資源を見つけることが難しい場合があります。それでも、進化を重視する姿勢は、どのような慣行も関連性を保ち続けることを保証します。私たちは皆、この嵐を乗り越え、復興に向けて役割を果たす中で、新たな専門家やコミュニティに積極的に耳を傾け、次のステップを導いてもらうことが極めて重要であり、継続的に学ぶ準備をしておくべきです。
危機からの再建は、責任をもって行い、脆弱な立場にある人々に配慮すれば、前向きな変化と成長の機会を生み出します。すでに、社内のグループが新たな種類の問いを投げかけ、自社製品の影響について思慮深い議論を始め、テクノロジーがもたらす意図しない結果についてより深い理解を求めるようになっているのを目にしています。
私たちは、対話を継続し、復興を通じてコミュニティを導く役割を果たすことに引き続き取り組んでいます。今、企業が策定するガイドラインは、この体系的な変革を主導し、今後訪れる変化を乗り越えるための強力なツールとなり得ます。
