ゲーム業界の市場規模は、2026年までに3,210億ドルに達する可能性があります。
しかし、有害なコンテンツや嫌がらせのコストは、プレイヤーと業界の双方にとって大きな負担となっています。
私たちは、多様性を称え、包摂性を育み、有害な行動を終わらせるビデオゲームのコミュニティへの道を切り開かなければなりません。
私たちは皆、ゲームのよりシンプルな時代を覚えています。対面での出会いがもたらす興奮に支えられたオフラインのゲームです。今日の状況は、プレイヤーが交流する方法や場所の点で大きく異なっています。オンライン上の出会いから、マルチモーダルでオンデマンドのプラットフォームまで多岐にわたります。ゲーム業界は近年の急速な成長を維持すると見込まれており、市場規模は2026年までに3,210億ドルに達する可能性があります。
こうした成長に伴い、ゲーム業界にはさまざまな課題も生じており、その中でも特に深刻なのが有害性です。Reach3 Insightsは市場調査会社であり、「女性ゲーマーの77%が、名前の呼び捨て、不適切な性的メッセージの受信、ゲートキーピング、軽視などを含む、ゲーム中のジェンダーに特化した差別を経験している」と述べています。有害なコンテンツや嫌がらせのコストは、プレイヤーと業界の双方にとって大きな負担となっています。また、別の報告書では、「ゲーム内で嫌がらせを経験したオンラインマルチプレイヤーゲーマーの28%が、敵対的な環境として評判のあるゲームを避け、22%は特定のゲームを完全にプレイしなくなった」と明らかにされています。
ゲームにおけるジェンダーバイアスは、世界的な化粧品ブランドであるMaybelline NYによって浮き彫りにされました。同社は、実験を実施し、男性ゲーマーの声とプロフィールを女性に見えるように変更した場合に、どのような扱いを受けるかを検証しました。普段どおりゲームをしていた2人のゲーマーの体験は、それまでの経験とは大きく異なるものでした。一部の他のプレイヤーは女性の声を聞いた途端にゲームを離脱し、また別のプレイヤーは侮辱や「女性の家事」に戻るよう促す発言を含む不適切なメッセージを浴びせ始めました。
こうした有害性への取り組みは進んでいるものの、課題は依然として残っています。ゲームにおける信頼と安全性を高めることは、包摂的な進化に不可欠です。
オンラインビデオゲームにおけるコンテンツモデレーションの現状
ビデオゲームの世界において、信頼と安全は新しい概念ではありません。しかし、業界全体に統一された標準的な慣行は存在していません。ポリシーの策定や解釈には、まだ多くの余地が残されています。この状況の好例が、事前対応型と事後対応型のモデレーションに関する議論です。組織は、ゲーム本来の自律性を損なうことなく、ユーザーの行動にどう向き合い、どう管理するかを議論しています。同時に、ポリシーの事前対応が不十分だと、適切な通報やエスカレーションを待つ間、ゲーマーが不適切なコンテンツにさらされる可能性があります。
業界でコンテンツモデレーションの実務が発展するにつれ、私たちのチームが特定した機会には次のようなものがあります。
1. 包括的でありながらシンプルなポリシーおよび執行措置の明文化
ゲームの世界には、コンテンツモデレーションのポリシーが存在しますが、非人間的な言論、暴力の扇動、過激主義などの分野で適用範囲や定義、明確さを欠くものや、理解しにくい形で書かれたポリシーもあります。理解しやすいものにする必要があります。関係者が、企業が自身のアカウントやコンテンツに対して行う措置について、具体的かつ容易に理解できる理由を得られることは、今後の行動を改善するうえで不可欠です。ADLの調査によると、成人ゲーマーの59%は、企業がヘイト、ハラスメント、過激主義にどう対処しているかについての透明性を高めるために規制が必要だと考えています。
2. コンテンツポリシーの枠を超えた取り組み
私たちは、コンテンツ中心からより広い視点に立った環境中心へと移行する必要があります。たとえばマルチモーダルゲームでは、音声、アカウント作成時の特徴、その他のシグナルに注目し、ゲーム内の有害な行動の大部分を担っているユーザー層に対策を集中させる必要があります。
こうしたシグナルに注目すれば、ゲーム内の有害なコンテンツの多くを直ちに取り除くことができます。この行動は一部の少数のユーザーに集中しており、通常は全ユーザーの3%未満が、有害なコンテンツの30%から60%を生み出しています。有害なコンテンツを生み出している少数のプレイヤーに対処できれば、より軽微な働きかけ、注意喚起、警告、その他の集団的な行動修正の手法を、プラットフォーム上の大多数のゲーマーに用いて、残る有害な行動を抑えることができます。
3. 運用化
安全性に関して、ユーザー体験の多くは、ビデオゲームのポリシーがどのように定義され、運用されているかに起因します。ビデオゲームのコンテンツモデレーションは、プラットフォームが展開されている市場向けに、すべての言語でポリシーが提供され、すべてのユーザーに一貫して適用され、ユーザーからの通報が迅速に審理され、さらにコンテンツモデレーションの判断に異議を持つ人々に対して迅速かつ効果的な救済の仕組みがある場合に改善されます。この短期間に業界で見られた変化の速さを踏まえると、プラットフォームは機敏に対応し、ポリシーを頻繁に修正または補完しなければなりません。
解決策の機会：より安全なビデオゲーム環境の構築
朗報として、成長と改善の機会は存在します。信頼と安全への取り組みを始めたばかりの新しい事業者に対する最初の推奨事項の一つは、多様なモデレーションチームを構築することです。このチームはゲーマーの母集団を反映したものでなければなりません。国際ゲーム開発者協会(IGDA)による調査によると、国際ゲーム開発者協会(IGDA)の研究では、多様なチームは、異なるプレイヤー層が直面する独自の課題をより的確に理解し、対処できることが示されています。「特定の集団、話題、文脈に対する意図しないバイアスは、代表性の欠如や、モデレーターの集団における社会的多様性の欠如に起因する可能性があります。」
モデレーションチームの多様性は、プラットフォームとユーザー体験の双方に定量化可能な利益をもたらします。モデレーションチームにおいて女性が不在であるか、その代表性が低いことが、最終的なユーザーの体験に直接影響を及ぼすことは、すでに明らかになっています。この場合の最終ユーザーとは、ゲーマーです。
ゲームプラットフォームのユーザー層が広がるにつれて、多様なモデレーションチームを用いてポリシーの適用における暗黙のバイアスに対処することは、ユーザーの利益となり、プラットフォームへのゲーマーの忠誠心を高め、さらにプラットフォームの成長を促進します。これはまた、多様性がコンテンツモデレーターにとどまらず、組織のあらゆる階層に浸透すべきだということを改めて認識する機会でもあります。最終的に、エコシステム全体でジェンダー規範を再構築するには、多くの人々の取り組みが必要です。「ルール設定は主観的であり、ルールを設定する人々の偏見や世界観を反映しているルール設定者。」
コンテンツモデレーション業務の自然な進化を検討するにあたり、最初のステップは、明確で透明性のあるコミュニティ基準および行動規範を定めることです。すべてのゲーマーは参加前にこれに同意する必要があります。中核となる原則は、透明性と強力なコミュニケーションであり、自らの行動がもたらす結果への認識を高めることです。
Modulateの最高経営責任者兼共同創業者であるMike Pappasは、外部向けのコミュニティ基準や行動規範は、幅広い読者を想定して作成すべきだと提案し、次のように述べています。「多くの子どもやその他のプレイヤー、特に、非常に異なる文化的背景を持つ人々をマッチングするゲームでは、どの行動が有害であり、どの行動がそうでないのかを単純に理解していないことがあります。有害性について語るとき、『荒らし』のイメージが思い浮かびますが、妨害的なコンテンツの50%以上は、実のところこうした正直な誤りから生じています。つまり、明確で読みやすく、法律用語を避けた行動規範は、コミュニティの行動に対する期待値を定め、有害性を減らすための、非常に強力なツールになり得るのです。」
また、今はどのような通報の手続きを定めるかを決める重要な時期でもあります。これは、ゲーマーが有害な行動を通報できるようにし、説明責任の文化を育むためのものです。Fair Play Allianceによる調査によると、Fair Play Allianceの調査では、プレイヤーの85%が、通報システムはオンラインゲームでの良好な体験にとって不可欠だと考えています。違反的なコンテンツを報告するための適切なワークフローを初期段階から構築することは、新しいプラットフォームにとって順調な出発を保証し、持続的な成功への道筋となります。
並行して、違反者に対する効果的な罰則の設計と実施も重要です。たとえば一時的または永久的なアカウント停止は抑止力となり得ます。前述のとおり、さまざまな種類の違反を分類し、それに応じた措置を講じることは、コミュニティへの啓発となり、共同の説明責任を生み出します。注意喚起、警告、その他の集団的な行動修正の手法、さらに停止や追放を含め、これらの罰則を一貫して執行することは、嫌がらせが容認されないという明確なメッセージを伝えます。
人工知能（AI）や機械学習アルゴリズムを活用することで、コンテンツモデレーションを支援できます。自動化されたツールは、チャットログ、音声通信、ゲーム内の行動を走査し、不適切な行動を特定して旗付けします。AIツールは、有害なコンテンツを直接ふるい分けたり、人間による対応が必要なコンテンツを振り分けたりするために組み込まれることもあります。ただし、これらのソリューションは、文脈が正確に考慮されるよう、常に人間のモデレーターと連携して機能させるべきです。
訓練されたモデレーターは、特に境界事例や追加情報が必要な場合において、依然として大規模言語モデルを上回る性能を発揮します。たとえば、ヘイトや嫌がらせのように、言語的または文化的な文脈がより多く必要とされる分野では、Open AIのあるデータセットによると、AIと人間のモデレーターの間に依然として20%を超える性能差があります。一部のAIベースのツールは、人間とAIが互いに補い合えるよう設計されており、AIがモデレーターの注意を向けるべき箇所に優先順位を付ける一方で、何を、あるいは何もしないかの最終判断はモデレーターに委ねられています。
オンラインビデオゲームの成長の中核にある信頼と安全
ゲーム業界が成長を続けるなかで、ゲーム企業が、プレイヤーの安全と心身の健康を優先する包括的なコンテンツモデレーション戦略に投資することは不可欠です。テクノロジー、コミュニティとの関わり、多様性を活用することで、業界は、あらゆる背景を持つゲーマーが嫌がらせや虐待を恐れることなく、お気に入りのタイトルを楽しめる未来に向けて取り組むことができます。
より安全なゲーム環境を作る責任は、プレイヤー、開発者、政策立案者からモデレーターに至るまで、関係するすべての人にあります。私たちは力を合わせ、多様性を称え、包摂性を育み、有害な行動を終わらせるビデオゲームのコミュニティへの道を切り開くことができます。
