生成AIは、既存の支援技術やロボティクス、学習、合理的配慮、アクセシビリティのソリューションを強化することで、障害のある人々を支援し得る。
生成AIはまた、障害のある人々にとってリスクもたらす。
こうしたリスクは、透明性、システムの結果の理解、認知的なサイロ化、誤情報や操作の可能性、プライバシーと所有権に関連している。
生成AIベースのシステムは、既存の支援技術エコシステムやロボティクス、学習、合理的配慮、アクセシビリティのソリューションを強化することで、障害のある人々を支援し得る。最終的に、生成AIはより広範な健康および支援ソリューションを後押しし得る。しかし、生成AIはまた、透明性、システムの結果の理解、認知的なサイロ化、誤情報や操作の可能性、プライバシーと所有権に関連する独自のリスクもたらす。これらの権利と区分は、「欧州AI法」などAI固有の法律や、 「EUデジタル市場法およびデジタルサービス法」、アクセシビリティ法」、そして「障害者の権利に関する条約」などのデジタル枠組みによって裏付けられている。
「EU AI法」の導入以降、世界各地の枠組み、政策、法律が、リスクおよび関連する遵守枠組みに基づいてAIシステムを分類することを目指している。生成AIシステムは、高リスク区分には該当しないものの、なお増大するリスクと違反、特に障害や機能障害のある集団にとって、最も議論の対象となる区分となった。
その後、経済協力開発機構（OECD）、WHO、ユネスコ（その「教育と研究における生成AI」を含む）などの政府および多国間機関は、教育、医療、職場、関連する専門職およびユーザーのリテラシーや能力といった特定分野における生成AIの利用を反映させ、採用プロセスをさらに改善するための専門報告書や一連の提言・ガイドラインに取り組んできた。
ここでは、これらのリスクをどのように緩和し、認知、感覚、身体の機能障害を持つ人々を含む障害のある集団を保護できるか、また、どのような政策上の検討が必要かを考察する。
生成AIが障害を支援し得る方法
AIアルゴリズムとシステムは、支援技術やロボティクスの強化から、個別化された学習や医療ソリューションの構築に至るまで、障害への支援と配慮において重要な役割を果たしている。生成AIと言語ベースのモデルは、この影響とその背後にある研究開発をさらに拡大している。特に、そのようなシステムは、既存の支援エコシステム、健康、仕事、学習、配慮のソリューションを強化し得るものであり、患者や学生とのコミュニケーションや相互作用、社会的・感情的知性、フィードバックを必要とする。そうしたソリューションは、「認知機能障害」、メンタルヘルス、自閉症、ディスレクシア、注意欠如障害、感情認識障害に関わる分野で頻繁に用いられており、その多くは言語モデルと相互作用に依存している。
ウェブおよび職場のアクセシビリティの重要性が高まる中（専用の「欧州アクセシビリティ法」を含む）、生成AIベースのアプローチは、音声からテキスト、または画像から音声への変換に関連するデジタル・アクセシビリティ・ソリューションの作成に用いることができる。また、読書、視覚、または認知の障害に役立つ、適応型のテキスト、フォント、色を含むアクセシブルなデザインやインターフェースの強化にも用いることができる。同様のアルゴリズムは、支援による配慮、社会的保護、マイクロラーニング、平等のトレーニング、そして警察活動を目的としたライブラリ、知識、教育プラットフォームの作成にも用いることができる。
最後に、そのようなアクセシブルで支援的なエコシステムの構築を通じて検討されているアプローチは、「支援という口実」を後押しするのに役立つ可能性がある。すなわち、障害のある集団のために作られた技術が、後に、より広範な人口に適応され得るということであり、そこには「ニューロフューチャリズム」も含まれる。これは、バイオフィードバック、言語、さまざまなメディア形式を伴う、新たな形の相互作用、学習、創造性を後押しするものである。
生成AIと倫理
アクセシビリティや支援技術に資するAIシステムの前向きな側面がある一方で、障害は、さまざまなパラメーター、関係する状態、関係者、インターフェース、技術のスペクトラムによって示されるため、適切に対応することは複雑な課題となっている。
特に、障害のある人は四肢を欠いている場合があり、体格や姿勢も異なり得る。視覚障害のある人は、視覚的な合図や信号を適切に理解できないことがある。聴覚障害のある人は、音声による指示や警告を聞き取れず、それに従えないことがある。認知障害のある人は、コミュニケーションの取り方が異なり、感情の認識に困難を抱えたり、話し方や精神運動のパターンが異なったりすることがある。AIアルゴリズムは、顔の違いや非対称性、異なるジェスチャーや身振り、言語障害、異なるコミュニケーションスタイル、または支援機器を持つ個人を差別することが知られている。これらの懸念は、「障害者の権利に関する国連特別報告者、「欧州障害者フォーラム」、そして他の多くの団体や機関によって提起されてきた。
しかし、既存のAIシステムと比べると、言語ベースのプラットフォームにはさらに多くの注意と倫理的な指針が必要である。特に、それらは人間の行動や相互作用を模倣し得るうえ、より高い自律性を伴い、意思決定を委ねる際に課題を生じさせる。また、それらは大量のデータ、機械学習技術の組み合わせ、そしてその背後にある社会的・技術的リテラシーに依存している。
生成AIが障害者にリスクをもたらし得る方法
生成AI関連のシステムが障害のある人々にリスクをもたらし得る方法はさまざまである。特に以下のとおりである：
• 自動化されたスクリーニングや面接、さまざまな種類の「物理的およびデジタル認識、ならびに文脈とセンチメントのバイアス」を伴う公共サービスなど、既存システムにおけるバイアスを助長し得る。
• 操作的なシナリオ、認知的なサイロ化、エコーチェンバーにつながる可能性がある。例えば、COVID-19のパンデミック中に、アルゴリズムが「患者の間で」誤情報を拡散するために使用された。
• 言語ベースのシステムは、統計的な歪みや誤ったエントリを含む公開データセットに起因して、障害関連のキーワードやフレーズに否定的な含意を与えたり、誤った結果を提供したりする可能性がある。
• プライバシー - 一部の国では、「政府機関が非難された」。年金制度のために、同意なくソーシャルメディアのデータを使用し、患者の障害の状況を確認したとされている。
なぜそれが起こるのか - 社会的、技術的、政策的な課題
これらの課題は、データ、モデル、システム、社会的慣行に関連する社会的および技術的要因によって生じていることを理解することが重要である。
特に、大量のデータセットには、歴史的なバイアスや歪みが含まれている場合があり、特定のパラメーターや条件が欠けていることがある。機械学習技術の種類によって、異なる歪みが生じ得る。教師あり学習の場合、「データにラベルを付ける人々」は、自身の主観や誤りを持ち込み、特定のパターン、事例、または文脈を見落とする可能性がある。教師なし学習は、一般に入力と「表現」の統計的な欠如と関連している。 強化学習は、環境上の制約や「初期経験の問題」と関連する可能性がある。
この分野における研究開発の複雑さは、以下に関連している：
• スペクトラムとパラメーター - 障害のある人々は、データセットに存在しない追加的な状態や機能障害（併存疾患）を抱えている場合がある。例えば、一部のシステムは、画像に人間の顔が含まれているかどうかを判断するために、耳の形状や外耳道の有無を用いていた。しかし、このシステムは「頭蓋顔面症候群」（顔面の機能障害）を抱える患者には対応できなかった。
• ジェンダーと交差性 - 都市計画に用いられるインフラおよび都市データセットは、「ジェンダーに配慮していない」ことが知られている。認知障害については、少女は「誤診されること」が多く、表れ方の基準が異なるため、また歴史的に研究統計で取り上げられることが少なく、データのラベルに影響を与えている。
• データアクセスの欠如 - 特定の社会集団（例：米国の白人系家族）は、より良い医療へのアクセスにより、「子どもの自閉症に関する懸念」を報告する可能性が高い。同時に、一部の国では、移民が強制送還や受け入れがたい医療費負担を恐れて、「医療検査や検査」を避ける傾向がある。
• 研究および/または十分な証拠の欠如 - 呼吸器や心臓の問題に対処するいくつかの医療ソリューションは、「短期間の観察の後に」開発されたことが知られている。より長期間の検査の後、そのシステムはそれほど効果的ではなく、負の副作用をもたらすことが判明したが、すでに実用化されていた。
• 参加の欠如 - 「法制度および司法制度」は、管轄区域を超えて公開されているデータセットで学習されることが知られており、特定の集団や人々の参加がしばしば見落とされている。
• 代理指標と一般化 - 医療評価システムは、「正規化された」人口統計および健康集団に基づいて作られることが知られている。それは、若年層における一部の重度の認知および精神障害を主に除外し、それを高齢の集団にのみ帰属させる可能性がある。医療・社会サービスもまた、「プロファイリング」を用いることが知られており、これは個人の特性ではなく関心に基づいて人々をグループ化するものであり、差別的な結果につながる可能性がある。
• 主観性 - 評価プラットフォームは、雇用可能性や専門性、知的能力といった特性を評価する際に、障害のある集団に主観性をもたらすことが判明した「正常性」の基準を用いて学習されることが知られている。
今後の道筋
今後策定される国家AI戦略（例：ドイツ、英国、米国、および中国）は、生成AIシステムの複雑さを浮き彫りにしている。これらは、国家の安全と、サイロ化を避けるためのデータへのアクセス、公正な技術競争と慣行の確保、リテラシーと能力の向上、プライバシーおよび倫理基準の導入に焦点を当てている。さらに、WHO、ユネスコ、OECDなどの多国間機関は、医療、教育、リテラシー、能力開発志向の提言（例：「ユネスコ - 学生と教員のためのAI能力フレームワーク」、2023年）に対応する、分野別のガイドラインに取り組んでいる。
しかし、障害者を中心とした生成AIシステムの研究開発は、技術と政策の両面から依然として複雑な課題である。これには、その交差的な性質、スペクトラム、併存疾患、ジェンダーおよび年齢に特有のパラメーター、モジュール式で多様な関係者のシナリオ（家族、介護者、複数の機器やインターフェースが同時に関与し得る場合を含む）、そして、セグメント、セクター、事例を横断する状態固有の導入およびリテラシーのガイドラインの必要性が含まれる。
一般的な基準に加えて、特定の集団、年齢、スペクトラムに対する特定のシステムの分類、リスク、遵守事項も必要とされており、機械学習技術およびその結果評価へのアプローチの透明性、公開データセットと歴史的統計へのアクセスと多様性、データ収集、プライバシー、同意に関する境界とルールの設定、説明責任のある行為および不作為の特定、そして最終的には悪用のシナリオの理解を改善する必要がある。したがって、デジタル枠組み（EUデジタル市場法およびデジタルサービス法、アクセシビリティ法、障害者の権利に関する条約）といった、AI固有ではない法律の役割を高める必要がある。
