世界各国の政府は、オンラインプラットフォームを規制する新たな枠組みの設計に着手している。
インターネットガバナンスが規制される時代の到来に伴い、テクノロジー企業には適応するとともに、新たなリスク管理のプロセスとツールを開発することが求められる。
最終的に、新たな規制を順守するには、責任を重んじる文化への転換が必要となる。
オンラインプラットフォームの台頭からほぼ20年が経ち、欧州連合、英国、カナダ、オーストラリアを含む世界各国の政府が、こうしたサービスを規制する新たな枠組みの設計に着手している。議論や論争が広がっており、最近では米議会での公聴会でFacebookの内部告発者フランシス・ホーゲンや、Appleが方針を撤回したことが取り上げられた。同社は当初、児童性的虐待素材（CSAM）を検出するため、端末上の画像や動画をスキャンする計画を進めていた。規制強化は、こうした企業にも社会全体にも重大な影響を及ぼす。
民主主義国家の政府は、オンライン空間の規制にあたって数多くの課題に直面している。インターネットの安全を確保すると同時に、言論の自由を含む基本的権利を守るという、時に相反する目標のバランスを取ろうと苦慮している。
規制当局が直面する課題
1. オンラインに投稿されるコンテンツの量は膨大であり、コンテンツを削除するたびに事前の司法審査を確保することは事実上不可能だ。政府は、特定の規制原則に基づき違法コンテンツをモデレーションする義務を民間部門に定める必要がある。規則が厳格であるほどコンテンツを過剰に削除するリスクが高まり、緩やかであるほど違法または有害なコンテンツが拡散するリスクが高まる。
2. 立法者は、対象とする害を網羅できるほど広く、かつ「検閲の拡大」のリスクを避けられるほど具体的に、「違法コンテンツ」の定義を定めなければならない。実際の運用が難しいほど広範な定義では、大きな「グレーゾーン」が生じ、企業がコンテンツ削除を独自の裁量で決めざるを得なくなる可能性がある。違法コンテンツの定義が曖昧だと、過剰な検閲のリスクが高まり、表現の自由に重大な影響を及ぼすおそれがある。
3. 規制当局は、イノベーションや市場参入の障壁を生むことなく、オンラインプラットフォームに課す新たな最低限の義務を定める必要がある。
政策立案者が採用する規制アプローチは、大きく2つに分けられる。
コンテンツ別のアプローチ
著作権侵害、テロ関連コンテンツ、CSAM、違法なヘイトスピーチ、違法な製品など、特定の種類のオンライン上の害を対象とする法律を制定し、迅速な削除に重点を置く。この種の規制には、EUテロ関連オンラインコンテンツ規則、フランスの偽情報に関する法律、ドイツのネットワーク執行法（NetzDG）、およびデジタル単一市場における著作権指令がある。
システム全体を対象とするアプローチ
これは、複数の種類の害に横断的に対応する法的枠組みを設け、仲介サービスプロバイダー（ISP）に対し、自社サービスの悪用を防ぐための方針やプロセスを策定し、実施していることを示すよう求めるものだ。EUがデジタルサービス法（DSA）で提案しているのはこの方向性であり、違法コンテンツの定義は定めていない。その代わり、ISPがコンテンツの違法性を認識した際に効果的に対応するための新たなデューデリジェンス義務を課している。違反した場合、全世界の売上高の最大6％の制裁金が科される可能性がある。
企業が直面する課題
複雑で（時には法域をまたいで相反する）要請に応えながら顧客の信頼を維持することは、すべてのISPに新たな課題をもたらす。新たなリスク管理の枠組みを策定し、役割と責任を新たに設ける必要があり、最終的には組織や文化の変革につながる。金融業界など他の分野から学ぶことも有益だろう。
例えば、DSAの最初の草案によると、ISPはさまざまな情報源から通知された違法コンテンツに対処するため、適切なプロセスを整備する必要がある。これらのコンテンツ、その後の判断、ユーザーとのやり取りを追跡するため、ISPは堅牢なコンテンツモデレーション 管理プロセスを構築する必要がある。これらのプロセスは、「理由の説明」、苦情対応、透明性報告などの義務も果たさなければならない。複雑な利害関係者ネットワーク全体でデータを収集するには、法域ごとの順守を確実にするため、安全で最新の専用ツールが必要となる。
オンラインプラットフォームには、オンライン広告に関する新たな透明性義務も課され、広告主やターゲット層に関する情報をユーザーに提供することが求められる。さらに、オンラインマーケットプレイスは、プラットフォーム上で活動する販売者の本人確認情報を収集する「取引先確認（KYBC）」方針を整備する必要がある。この義務も、主に金融業界に着想を得たものだ。これにも新たなプロセスとツールが必要となる。
最大規模のオンラインプラットフォームには、システミックリスクの年次評価を実施する義務など、さらなる要件が課される。こうした企業も、金融部門が開発したコンプライアンスリスク評価の手法やベストプラクティスを活用できる可能性がある。
こうした変更はすべて、企業に避けられないコスト増をもたらす。欧州委員会の試算によると、大手企業では年間コストが数千万ユーロに達する可能性がある。
新たな文化
こうしたプロセスやツールに加え、効果的なリスク管理には、規制上の義務、ビジネスモデル、評判リスク管理の足並みをそろえる、バランスの取れた企業運営とリスク管理の文化が必要となる。また、金融部門と同様に、独立したコンプライアンス機能を設けることも考えられる。
しかし、組織の変革だけでは十分ではない。成長するにつれて、オンラインプラットフォームは、規制上のリスクを全員が理解し、従業員が責任ある判断を下せるような文化に適応する必要がある。これにより、テクノロジーの新たな、より責任ある活用への道が開かれる。
