ソーシャルネットワークは、自ら命を絶とうと計画している人々に意図せず発信の場を提供したとして、たびたび話題になってきた。実際に、何人もの人が自殺を試みる様子をライブ配信している。
高リスク事例の特定
Facebookは今回、自殺を考えている可能性のある人の兆候を探すため、ネットワークを積極的に監視する取り組みを始めた。自殺の可能性を示す特徴的なパターンをソーシャルメディアへの投稿から探す人工知能（AI）アルゴリズムを開発した。
「このAIは、自殺や自傷行為の可能性があるとして報告されるケースよりも、実際には精度が高い」と、Facebookのプロダクトマネージャー、ヴァネッサ・カリソン＝バーチ氏は語った。BuzzFeed Newsのインタビューで。
アルゴリズムが懸念されるパターンを検出すると、コミュニティ管理担当者に通知する。担当者はさらに調査し、高リスクとみられるユーザーに先回りして連絡できる。緊急性が低いと判断した場合は、Facebookは会話を始めやすくするため、あらかじめ用意したメッセージで友人から本人に連絡するよう促すとしている。
オンラインカウンセリング
自殺を試みる様子のライブ動画配信に対処するため、Facebookは友人が懸念する動画を報告できる新しいツールも導入した。報告を受けると、Facebookは画面上に自殺防止の支援情報を表示し、たとえばFacebook Liveの配信者が相談窓口とライブチャットできるようにする。同社は支援を提供するため、複数のカウンセリング団体やセルフヘルプ団体と提携している。また、動画を報告した人にも、介入できるよう支援情報を提供する。
Facebookは、Live動画の配信を続ける選択をしたとして批判を受けている。同社は、友人や家族が介入する機会を得られるよう、配信を続けていると説明している。
ほかのデジタルプラットフォームの対応
Googleで「自殺の方法」と検索すると、検索エンジンはサマリタンズの相談窓口を表示し、ほかの複数の支援団体の広告も掲載する。Quoraは、自殺に関する質問の冒頭に、連絡できる相談窓口の一覧を表示する。それでも、どちらのサイトにも自殺の「手引き」へのリンクが表示される。
一方、AppleのSiriは、自殺予防センターへの相談を提案し、自殺予防に関する支援情報の一覧を表示する。
AIと機械学習の進歩により、手遅れになる前に困難を抱える人を見つけ、支援できる可能性が広がっている。
