「もう生きていたくない :( :( :(」。これは、マイアミ在住の14歳の少女が、Facebookライブ配信を始め、ウェブカメラの前で首をつる1年前に投稿した最後の言葉でした。2時間にわたるライブ配信は、警察に通報した友人を含め、数千人が視聴したと伝えられています。残念ながら、当局が到着したときには、彼女を救うには遅すぎました。
この話はとりわけ衝撃的ですが、悲しいことに珍しいものではありません。自殺は、米国、欧州、東南アジアの10代の若者の死因の第2位です。毎日、Facebook、Snapchat、Google、Siri、Alexa上の何百万ものソーシャルメディア投稿、チャット、検索クエリが、メンタルヘルスに関するものです。こうした投稿は、自殺のリスクが最も高い人々へと続くパンくずの道しるべになり得ます。しかし、テクノロジー企業がこうした情報を責任ある形で利用し、介入する方法はあるのでしょうか。うつや自殺に関する情報を検索する人に、GoogleやSiriはどう応答すべきでしょうか。2人の10代が、自分を傷つけることについて秘密裏に話しているとき、Snapchatはどう対応すべきでしょうか。
こうした問いは単なる仮定ではありません。すでに行動を起こしているテクノロジー企業もあります。米国では、臨床的なうつ病の症状をGoogleで検索すると、うつ病の知識パネルと非公開のスクリーニング検査（PHQ-9）、さらに検証済みの教育情報や相談先が表示されるようになりました（「知識パネル」）。Googleは、個人の身元と検査の回答を結びつけることはない一方、ユーザー体験の改善に向けて匿名化データを収集すると表明しています。何百万人もの人々がこうしたオンライン検査を受けるにつれて膨大なデータが生み出され、最終的には各ユーザーに関する他の情報と組み合わせ、うつ病のデジタル指紋を作成するのに役立つ可能性があります。
ライブ配信された自殺への対応として、Facebookは、一部の国で自傷行為の兆候となり得る画像や言葉がないか、人々の投稿をスキャンする人工知能（AI）アルゴリズムを導入しました。そうした行動が見つかると、ユーザーに支援情報が提供され、社内の「共感チーム」に通知されます。最初の2つの対応で自傷行為を防げなかった場合、緊急対応要員に通知されることがあります。このFacebookの取り組みから利用者が離脱することはできません。導入後最初の1カ月で、このアルゴリズムは100人以上を救う助けになったと、FacebookのCEO、マーク・ザッカーバーグは述べています。
FacebookとGoogleのチームリーダーたちとの対話に基づくと、こうした初期の取り組みは誠実で、よく考えられているようです。議論のきっかけを作った両社に敬意を表します。しかし、どんな新しい領域でもそうであるように、イノベーションは問いや課題を生みます。
ソーシャルメディア企業が私たちのメンタルヘルスを監視するには、個別の同意が必要でしょうか？
企業が私たちのメンタルヘルスを監視するなら、そのアルゴリズムは有効性を示すために規制され、研究される必要があるでしょうか？
何が起きているか明らかになった時点で、Facebookは自殺のライブ配信を続けさせるべきでしょうか、それとも中断すべきでしょうか？
人々のメンタルヘルスデータを、たとえば抗うつ薬の広告を配信するために利用できるでしょうか？
データプライバシーの規則が弱い国の人々は、こうした監視の対象になりやすいのでしょうか。すでにFacebookのAIは、欧州のより厳格なプライバシー規則に準拠していないため、欧州では利用できません。
最後に、そして何より重要なのは、10代のメンタルヘルス問題の解決策は、AIによる監視を受けるソーシャルメディアを増やすことなのでしょうか、それとも減らすことなのでしょうか？
現在、ソーシャルメディア投稿の感情を分析するAIアルゴリズムの能力は、まだ完全ではありません。精神疾患の表現には文化による大きな違いがあり、また多くの臨床医が知っているように、自殺を計画している人の多くはそれを否定するため、研究は複雑になります。テキストベースのメンタルヘルス支援サービス、クライシス・テキスト・ラインが5,500万件のテキストメッセージを分析したところ、自殺を考えている人は「自殺」という言葉よりも、「橋」や「薬」といった言葉を使う傾向が強いことが分かりました。
こうした課題はあるものの、AIが友人よりも早くオンライン上の自殺行動を見つけられると予見したザッカーバーグの見立ては正しかったと言えます。リスクのある投稿に対応する訓練を受けたカウンセラーとAIを組み合わせれば、現状は確実に改善するでしょう。今こそ、社会全体を支援するため、このイノベーションを迅速に拡大するマルチステークホルダーによる官民連携が必要です。成功させるには、責任ある研究指針を中核に据え、アルゴリズムの透明性を確保し、研究結果をオープンアクセスにする必要があります。これにより世界中の研究者が貢献でき、関係するすべてのテクノロジー企業に対する人々の信頼が損なわれるのを防ぐことにもつながります。
脳科学とAIの進歩は、適切な倫理的・科学的枠組みのもとで活用されれば、人々の幸福とメンタルヘルスを高める大きな可能性を秘めています。
ムラリ・ドライスワミー博士は、世界経済フォーラムの2018年年次総会において、テクノロジーとメンタルヘルスの関係について、オープン・フォーラムのセッション「沈黙の苦しみ：うつ病への取り組み」で議論します。セッションは1月26日（金）午前9時から10時30分までダボスで開催されます。ダボス中等学校の生徒たちと共同で企画されたこのセッションは、ドイツ語と英語の同時通訳付きでライブ配信されます。
