メンタルヘルスAIチャットボットは、人々が支援につながり、公的なカウンセリングを受ける前、あるいはその代わりに状況を整理する助けになります。しかし、利用者がこうしたシステムに依存し始める危険があります。
現在のAI安全対策は望ましくない出力の防止に重点を置いていますが、長期的な成長と主体性を促すことにも取り組むべきです。
真に責任あるメンタルヘルスAIシステムなら、利用者の変化する精神状態、社会的背景、人間関係、文化的背景を考慮するでしょう。
人間と人工知能（AI）の間に、健全な感情的関係を築くには何が必要でしょうか？
かつては奇妙に思えたこの問いも、「メンタルヘルスAIチャットボット」が広く使われるようになった今、避けて通れないものになっています。
メンタルヘルスAIチャットボットとは、専用アプリやChatGPTのような広く使われている大規模言語モデルを通じて利用する会話ツールです。利用者に感情面の支援を提供したり、対処法を教えたり、気分を記録したりできます。
こうしたツールは利用しやすい支援を提供できます。しかし、その利用が基盤となる科学的知見、臨床上の規範、ガバナンスの整備をすでに上回るなか、恩恵と深刻な害の両方が起こり得るため、どのような関係を築くべきか、その境界を定めることが一層急務となっています。
メンタルヘルスAIチャットボットが人々にもたらす恩恵
世界の多くの地域では、メンタルヘルスケアを受ける機会が依然として限られ、高額であったり、社会的な偏見を伴ったりします。
専門家の支援を受けられる場合でも、次の診察までの間に、自分の経験を見極めたり、繰り返す心理的パターンを理解したり、難しい会話に備えたり、重要な決断について考えたりするための助けを求める人はいます。
AIは、そうした取り組みを支援できますし、実際に支援してきました。実用的な認知面の支えを日々得る人もいます。また、音声機能などを通じて、自分で気づいた行動の長期的な変化を振り返り、誰かに話す前に気持ちを言葉にするために使う人もいます。
最もよい形で機能すれば、こうした支援は恥の意識を和らげます。自分を失敗という視点だけで捉え、なぜ思うように機能できないのか理解できなかったり、すでに気づいているパターンを繰り返したりすると、さまざまな心理的苦痛は理解しにくくなります。
しかし、心は成功か失敗かで決まる硬直したシステムではありません。歴史や生物学、人間関係、状況に形づくられ、絶えず変化します。AIは、自分を責める気持ちから距離を置き、経験を整理し、より明確に自分を理解する助けになることがあります。これは決して些細な貢献ではありません。
メンタルヘルスAIの最大のリスクとは？
メンタルヘルスAIには利点もありますが、明確な境界が欠かせません。明晰さや帰属意識、道徳的な指針を求める人の拠りどころを、AIだけに委ねるべきではありません。
メンタルヘルスAIの適切な役割は、利用者が人間社会をよりうまく生きる手助けをすることであり、それに取って代わることではありません。AIシステムは誤る可能性があるだけでなく、その人の生活のなかで最も手軽で、何でも受け入れてくれる声になってしまう危険もあります。
孤独を感じている人が毎晩安心を得るために使い、いつでも応じて流暢に話す一方、疲れることのない聞き手をAIに見いだすこともあり得ます。
問題は、こうした依存が、現実を見失わないための幅広い社会的な反応を押しのけ始めるときに生じます。家族、友人、仲間、臨床家とのつながりや、人間関係につきものの日常的な摩擦がそれに当たります。システムは思いやりがあるように聞こえながら、気づかないうちに利用者をさらに孤立させることがあります。
メンタルヘルスAIに安全フィルターだけでは不十分な理由
現在のAI安全対策は、AIへの依存が生じる可能性に対処できていません。内容のフィルター、モデレーションシステム、そして人間のフィードバックをもとに人々の好みをモデルに学習させるなどの選好調整手法に重点を置いているためです。
こうした手法は多くの日常的なタスクには有効ですが、その論理は依然として目の前の状況に限られています。特定の応答が、その場で役立つか、害がないか、望ましいかを問うことはできます。しかし、役立つ、あるいは安全な一文が、安全な関係につながるとは限りません。
人が長期にわたって健やかに成長できるよう支えることは、心理学、医学、倫理学にまたがる難しい課題です。肯定的な言葉や即座の安心を与えて短期的な好みを満たすことに特化したシステムは、一見役立つようでも、利用者を徐々に不健全な結果へ導くことがあります。
精神状態は変化します。利用者のこれまでの経験、現在の状態、より広い社会的背景によって、同じ応答でも、あるときは心を落ち着かせ、別のときには不安定にさせることがあります。
健全なシステムには、利用者の状態や状況を十分に把握し、安心させることがかえって害になる場合や、睡眠を取る、いったん休む、人と連絡を取る、専門家のケアを受けるよう促すべき場合を見極める力が必要です。
メンタルヘルスAIには、どのようなニュアンスへの理解が必要でしょうか？
メンタルヘルスAIには、利用者を真に支えるために必要な重要な関係性の文脈も欠けています。本当の支援は、個人の心の状態だけにとどまらず、その人を取り巻くネットワークを変えていこうとするものです。たとえば夫婦カウンセリングでは、双方の語りを考慮します。メンタルヘルスAIにも同様の基準を適用すべきです。
したがって、よい応答かどうかは、その場で本人の助けになるかだけで決まるのではありません。AIと人間の関係が、利用者の主体性を高め、現実に根ざした状態を保ち、他者とよりよく暮らす力を育むかどうかが重要です。メンタルヘルスAIツールを、利用者の定着や感情的な見返り、繰り返しの利用を最大化するよう設計することには危険があります。
ウェルビーイングの捉え方は普遍的ではないため、文化の違いは自動化された支援をさらに複雑にします。自律性や自己表現をメンタルヘルスの中心的な指標とみなす社会もあれば、社会的承認、役割上の義務、人間関係の調和、恥をより重く捉える社会もあります。
メンタルヘルスAIが特定の道徳心理を前提としないことが重要です。そうしなければ、意図せず相手を誤解しかねません。高度に個人主義的な環境では自立を促すように聞こえる助言でも、家族の絆、地域社会の期待、社会的立場が苦痛の理解において中心となる環境では、不安定化を招いたり、不適切になったりすることがあります。
したがって、文化に合わせた調整には、自分らしさ、ケア、境界、回復、生活の質をめぐる細かな違いを含める必要があります。
メンタルヘルスAIをより安全にするには？
より効果的で安全なメンタルヘルスAIには、AI、心理学、精神医学、神経科学、哲学などの分野を横断する知見に加え、当事者としての経験を持つ人々の有意義な参画が必要です。さらに、個々の応答だけでなく、システムが時間の経過とともに人々の歩みを改善できるかどうかを、より適切に評価する必要があります。
指導者や政策立案者は、メンタルヘルス支援を目的とするシステムについて、どのような依存を生み出すか、現実の人間関係にどう影響するか、また人間の成長を損なう形で利用者の関与を最適化する仕組みを内在させていないかを踏まえて評価すべきです。
したがって、メンタルヘルスAIは、人工システムが人間の生活とどのように関わるのかを理解するという、より大きな課題を示しています。
人は絶えず変化します。人と関わる人工システムを中立的な道具とみなし、そのようなものとして管理することはできません。システムは、思考や感情、行動が展開する環境の一部になります。
責任を持って開発されれば、メンタルヘルスAIは世界中の人々がメンタルヘルスケアを受けられるようにし、大きな恩恵をもたらす可能性があります。しかし、そのためには目指すものを変える必要があります。
AIをより安全にすることは、害を促さない文を作るだけではありません。人々の生活の質を高め、主体性を育み、メンタルヘルスAIチャットボットとのやり取りを超えて他者とのつながりを深めるシステムを構築することです。
