私たちは今、アルゴリズムによる選別と意思決定の世界に生きています。データを収集し、フィード上でコンテンツを異なる方法で提示したり隠したりするソーシャルメディア・プラットフォーム。ターゲティング広告に用いられるレコメンデーション・アルゴリズム。個別化された検索結果を示す検索アルゴリズム。そして、融資を受けられるかどうかの可能性に影響を与えたり、医療保険料の額を左右したりするかもしれない予測アルゴリズムです。
これらの「ブラックボックス」の内側には何が潜んでいるのでしょうか？ どのように理解し、統治し、説明責任を果たさせることができるのでしょうか？ これらは困難な社会的課題であり、早急な公開討論を必要としています。以下では、アルゴリズムの説明責任とガバナンスに関する12の起こりうるシナリオを提示します。
最初の6つのシナリオは、アルゴリズムやプラットフォームに対する個人のエンパワーメントと主体性に焦点を当てています。これらは、エンドユーザーが無関心な傍観者である状態から、企業と対等な立場で交渉する個人へと至る連続体に沿って配置されています。シナリオを移るごとに、アルゴリズムの説明責任は、不透明性から透明性へ、無自覚から主体性へ、データの利用方法を統制できない状態から、ポジティブな外部性の完全な所有と利益分配へ、そして、アルゴリズムが体現すべき価値観について無自覚な状態から世界的な公的合意へと推移していきます。
1. 無自覚な人々を圧倒する
ここでは市民は、自分のデータがどのように扱われ、どのように選別・順位付けされているのかを知らされていません。彼らがやり取りする情報が、さまざまな形で偏っている可能性があるかどうかも不明瞭です。こうした情報の非対称性は、利用規約における複雑な法律用語によって生み出されており、データの利用方法について不透明なままです。すべてのリスクと責任は個々のユーザーが負い、そのユーザーは本質的に主体性を持っていません。
2. 利用者よ、注意せよ
ここでの利用規約は、第三者への共有、広告戦略、そして個人データへのアクセスに関する開示を含みます。プラットフォームは、投稿のリーチについて、つまりユーザーのオーディエンスのうちそれを見る可能性がある割合や、ユーザーが見るものが好み、位置情報、利用履歴に基づいてどのようにフィルタリングされているかを説明する努力をしています。情報格差の縮小に重点が置かれているものの、リスクと責任は依然として個人に残り、その個人は主体性を持っていません。
3. ダッシュボード型インターフェース
ここでは、ユーザーは情報にアクセスしてそれを管理でき、プラットフォームとのやり取りを自らカスタマイズできます。特定の報酬と引き換えに、サードパーティのアプリケーションと情報を共有することに同意できます。このオプトイン／オプトアウトの仕組みは使いやすくなっており、ユーザーは自分の個別のニーズに合ったソリューションを調整できます。
4. スマートコントラクト
ここでは、ユーザーとプラットフォームが「スマートコントラクト」を締結し、権利と責任について共同で合意します。これらはブロックチェーン上で動作し、契約に組み込まれた自動トリガー機構を通じて実行されます。すべてのオプトイン／オプトアウトの決定が明記され、契約違反の場合に備えた特定の条項を含めることができます。ここでは、個々のユーザーは主体性を持つとともに、組み込まれた保護メカニズムに依拠します。保護メカニズムが作動した場合、企業の行動を詳述した公的記録が作成されます。ユーザーはそのような違反に対して補償を受けます。
5. 利益の分配
このシナリオは、ユーザーが自らのデータが生み出す利益の金銭的受益者として含まれるビジネスモデルを想定しています。このシナリオは上記の他のシナリオと並行して機能しうるものですが、本質的には、より公平で、ユーザー中心かつ包摂的な収益化のアプローチに焦点を当てています。企業は利益を上げ続けますが、その利益は、それを生み出したユーザーと分け合われます。
6. 価値観に関する公的合意
このシナリオは、アルゴリズムによるデータの選別と利用者への提示を含め、プラットフォームの行動として何が許容されるかについての公開討論を経て策定された、合意された価値観の集合を定めます。したがって、この価値観に関する公的合意は、倫理的であること、公正であること、そして合法であることの双方を網羅します。
次の6つのシナリオは、私的ガバナンスから、マルチステークホルダーによる超国家的アプローチに至る連続体に及ぶ、ガバナンスと説明責任のための一連の起こりうる取り決めに焦点を当てています。優勢となるシナリオは、規制制度や多くのデータ駆動型産業の将来に重大な影響を与えるでしょう。
7. 私的ガバナンス
企業は強制されることなく、自社の戦略の一環として、シナリオ#2～#6への移行を決定します。プラットフォームは、より理解しやすい利用規約、または例えばユーザーが個々のアプリケーションへのアクセス要件に対してオプトインまたはオプトアウトできるダッシュボードなどの仕組みを提供する必要があると判断します。
8. 政府の国家機関に対する説明責任
アルゴリズムがソーシャルメディア・プラットフォームを支えているような場合など、社会的影響が広範に及ぶ可能性があるため、このシナリオはアルゴリズムをブラックボックスのままにしておくことはできないと強調します。政府の国家機関がガバナンス条件の執行を担当します。その権限には、不遵守に対する罰金や制裁が含まれ、最終的には武力行使に訴えることも可能です。国内法の制約は、企業がガバナンス合意を回避する能力に影響を与える可能性が高いと考えられます。
9. 国際政府機関
国家的なガバナンス合意を技術企業が回避できてしまうという問題が生じる可能性があるため、アルゴリズムのガバナンス合意を執行する目的で、各国政府代表で構成される国際機関が設立されます。ガバナンス・メカニズムに影響を与える国内法の整備・統一を進め、その推進を図る取り組みも行われます。
10. 超国家的マルチステークホルダー機関
国家機関と国際政府機関の双方がアルゴリズムの監査に備えられていない場合、独立した超国家的かつマルチステークホルダーの機関が創設されます。これは個々のメンバーで構成され、アルゴリズムの倫理性と社会的影響を監査する責任を共同で担います。メンバーには、メディア、学界、インターネット・ガバナンス機関、そして、アクセスが認められている場合に監査を行い、認められていない場合にはリバースエンジニアリングの方法を見出すハッカーなど、幅広い関係者の代表が含まれます。
11. 公共事業としてのアルゴリズム
特定のプラットフォームが 事実上 インターネットそのものになると（そのプラットフォームを通じてのみインターネットにアクセスする膨大な数のユーザーがいるため）、プラットフォームはもはや株主のためにだけ事業を行うことも、最大利益の創出を主要な目的として運営することも許されなくなります。代わりに、公共事業として、国際的に課される税金によって部分的に財源が賄われ、その結果、ユーザーデータを収益化する必要性が減少するか、完全になくなります。
12. 報道記者による説明責任の担い手
この最後のシナリオは、調査報道記者をアルゴリズムの説明責任の監視の中心に据えます。公共の情報ニーズと、これらのサービスの提供に中心的に関わる事業者は、提供するサービスの内容や、それが利用者ごとにどのように異なりうるかという観点から継続的に監視・精査され、それによって問題をはらむ情報政治が明らかにされます。
これらのシナリオは道筋を示すものではなく、長期的な思考を促し、さらなる公開討論を生み出すことを目的としています。最終的に私たちが問うのは、これらの課題に取り組むためにどのような努力がなされうるか、また、なされるべきか、ということです。
Summit on the Global Agenda 2015 はアブダビで10月25日～27日に開催されます。
著者：Pia Mancini（Net Democracy ディレクター）およびFarida Vis（Visual Social Media Lab ディレクター、シェフィールド大学情報学部ファカルティ・リサーチ・フェロー）。両名は世界経済フォーラムの「 Global Agenda Council on Social Media」のメンバーです。
画像：2013年11月28日、上海の繁華街にある地元のコーヒーショップで、ノートパソコンでインターネットを閲覧しながら電話をする男性。REUTERS/Carlos Barria
