AIに関する懸念には、潜在的に有害な偏見や固定観念を増幅させることが含まれると、技術倫理の専門家は述べています。
同専門家によれば、AIがもたらす可能性のある悪影響や社会的害を考慮しなければ、「倫理的負債」が生じうるとのことです。
倫理的負債を減らす唯一の方法は、何が問題になりうるかについて時間をかけて先を見据えて考えることです。しかし、技術者がそうするよう必ずしも教育されているわけではない、と同専門家は付け加えています。
AIの倫理的・社会的影響に対する公衆の懸念が高まり続けるなか、ペースを落とすべき時だと思われるかもしれません。しかし、テック企業の内部では、まったく逆の空気が広がっています。ビッグテックのAI競争が加熱するなか、マイクロソフトの幹部は生成AIに関する社内メールで、「後で修正すればよいことを気にかけるのは、今この瞬間には絶対に致命的な誤りだ」と書いており、ニューヨーク・タイムズが報じたように。
言い換えれば、「素早く動き、物を壊せ」という時が来た、マーク・ザッカーバーグのかつての標語の引用ですが、もちろん、物を壊せば、後でその代償を払ってそれを修正しなければならない場合もあります。
ソフトウェア開発において、「技術的負債」とは、より速く、より注意の足りない解決策を今選んだ結果として、将来の修正に生じる暗黙のコストを指します。市場に急いで投入すると、準備が整っていないソフトウェアを出してしまうことがあり、市場に出てからバグが何であるかを知ることになり、その時点で修正できればと期待する、ということになりかねません。
しかし、生成AIに関する否定的なニュース記事は、こうしたバグに関するものであることは少ないのです。むしろ、懸念の多くは、AIシステムが有害な偏見や固定観念を増幅させること、そして学生がAIを欺瞞的に利用すること。私たちは次のような話を耳にします。プライバシーへの懸念、誤情報にだまされる人々、労働搾取、そして、どれほど速く人間の仕事が置き換えられうるかへの恐れなど、ほんの一例です。これらはソフトウェアの不具合ではありません。技術が抑圧や偏見を強化していると気づくことは、ウェブサイト上のボタンが機能しないと知ることとはまったく異なります。
技術倫理の教育者・研究者として、私はこうした「バグ」について多くのことを考えてきました。ここで蓄積されているのは、単なる技術的負債ではなく、倫理的負債です。技術的負債が開発過程での限られたテストから生じうるのと同様に、倫理的負債は、起こりうる悪影響や社会的害を考慮しないことから生じます。特に倫理的負債については、それを背負う人々が最終的にその代償を払うことはほとんどありません。
レースの幕開け
OpenAIのChatGPTは、2022年11月に公開され、今日のAI競争の号砲となったその時、私は負債台帳が埋まり始めるのを思い描きました。
数か月以内に、GoogleとMicrosoftも独自の生成AIプログラムを公開しましたが、これらは追いつくために急いで市場に投入されたように見えました。Googleのチャットボット「Bard」が、同社の自社デモの最中に自信満々に誤った回答を提示したことで、Googleの株価は下落しました。マイクロソフトは、チャットボットに関しては特に慎重であると予想されるかもしれません。同社は、Twitterベースのボット「Tay」が2016年にほぼ直ちに停止されたことを思い出させます。同ボットは女性蔑視や白人至上主義的な主張を繰り返したためです。それでも、AI搭載のBingとの初期の会話では一部のユーザーを不安にさせ、また、それは既知の誤情報を繰り返しました。
こうした急ぎのリリースによる社会的負債が返済を迫られるとき、意図しない結果や予期しない結果について言及されることになると私は予想しています。結局のところ、倫理ガイドラインがあったとしても、OpenAI、Microsoft、Googleが未来を見通せるわけではありません。技術が完全に開発される前に、どのような社会問題が生じうるかを誰が知ることができるでしょうか？
このジレンマの根源は不確実性であり、これは多くの技術革命に共通する副作用ですが、人工知能の場合には増幅されています。結局のところ、AIの要点の一つは、その行動が事前には分からないということです。AIは負の結果を生むように設計されているわけではないかもしれませんが、予見されない結果を生むように設計されているのです。
しかし、技術者がこうした結果の多くがどのようなものになりうるかを正確に推測できないと示唆するのは不誠実です。これまでにも、AIが偏見を再生産し、社会的不平等を悪化させうる例は数え切れないほどありますが、こうした問題がテック企業自身によって公に特定されることはめったにありません。例えば、広く使われている商用の顔分析システムにおいて人種的偏見を発見したのは、例えば、また、外部の研究者でした。さらに、医療リスク予測アルゴリズムにおいて、約2億人のアメリカ人に適用されていたものを含め、偏見を発見したのも外部の研究者でした。学術界や、Algorithmic Justice LeagueやDistributed AI Research Instituteなどの団体や研究機関が、この作業の大半を担っています。つまり、事後的に害を特定しているのです。そして、企業が倫理学者を解雇し続けるならば、このパターンが変わるとは思えません。
責任ある推測
私は時に、自分自身を技術楽観主義者と表現することがあります。悲観主義者のように考え、備える楽観主義者です。倫理的負債を減らす唯一の方法は、何が問題になりうるかについて時間をかけて先を見据えて考えることですが、これは技術者が必ずしも教えられていないことです。
科学者であり、象徴的なSF作家でもあるアイザック・アシモフは、かつて、SF作家は「避けられないものを予見する。問題や大惨事は避けられないかもしれないが、解決策は避けられないものではない」と述べました。もちろん、SF作家がこうした解決策を開発する役目を担うことは通常ありません。しかし今、AIを開発している技術者がその役目を担っています。
では、AI設計者はどうすればSF作家のように考えられるようになるのでしょうか？私の現在の研究課題の一つは、こうした倫理的推測のプロセスを支援する方法の開発に焦点を当てています。私が意図しているのは、遠い未来のロボット戦争を想定して設計することではなく、直近の未来を含め、将来の影響を考慮する能力そのものです。
これは、私が長らく模索してきたテーマであり、教育の中で、学生が作り出すかもしれない技術の倫理的影響を同じように考えられるよう、SF的な技術の倫理的影響を考えさせてきました。私が開発した演習の一つは、Black Mirror Writers Roomと呼ばれるもので、学生は起こりうる悪影響について推測します。対象は、ソーシャルメディアのアルゴリズムや自動運転車などの技術です。こうした議論は多くの場合、過去のパターンや悪意のある行為者の可能性に基づいています。
博士課程の学生Shamika Klassenと私は、この教育演習を研究の中で評価し、コンピューティングを学ぶ学生に、将来何がうまくいかないかを想像させ、その後、そもそもそうした未来を回避する方法をブレインストーミングさせることに、教育的な利点があることがわかりました。
ただし、目的は学生をこうした遠い未来に備えさせることではなく、すぐに応用できるスキルとして推測を教えることです。このスキルは、特に学生が他者への害を想像することを助けるうえで重要です。技術による害は、しばしば、コンピューティング分野の専門職で過小に代表されている疎外されたグループに不均衡に影響するからです。私の研究の次のステップは、こうした倫理的推測の戦略を、実世界の技術設計チーム向けに翻訳することです。
一時停止すべき時か？
2023年3月、公開書簡が、数千の署名とともに、GPT-4より強力なAIシステムの学習を一時停止するよう訴えました。制御されなければ、AI開発は「やがて私たちを数で上回り、知恵で凌駕し、時代遅れにし、取って代わるかもしれない」、あるいは「文明の制御喪失」さえ引き起こしかねないと、書簡の執筆者たちは警告しました。
この書簡への批判が指摘するように、仮定上のリスクに焦点を当てることは、今日実際に起きている害を無視しています。それでも、AI開発は減速する必要があるという点について、AI倫理学者の間で意見の相違はほとんどないと私は考えます。開発者が手を挙げて「意図しない結果」を引き合いに出すだけでは、もはや通用しないということです。
「AIレース」が大きな速度で加速し始めてから、まだ数か月しか経っていませんが、倫理的配慮がすでに置き去りにされていることは明らかだと私は考えます。しかし、負債はいずれ返済を迫られ、歴史が示すところでは、ビッグテックの経営幹部や投資家がその代償を払う立場にはならないかもしれません。
