人工知能の研究者やエンジニアは、人間のように見え、ほぼ独立して動く機械を作ることに多大な労力を費やしてきました。そうした魅力的な夢によって、多くの人々は、すでに実際の進歩が起きている分野から注意をそらされてきました。その分野とは、人間の能力を置き換えるのではなく強化するシステムです。新しい考え方への転換を加速させるため、AIの設計者や開発者は、過去の研究者が犯した過ちから教訓を得ることができるはずです。
例えば錬金術師たちは、アイザック・ニュートンのように、野心的な目標を追求しました。たとえば、鉛を金に変えること、あらゆる病気を治す万能薬を作ること、そして不老不死の霊薬を見つけることなどです。これらの目標は魅力的でしたが、それを追求した詐欺師たちは、君主並みの多額の資金援助を獲得していたかもしれません。その資金は、近代化学の発展にこそ使われるべきだったでしょう。
同じく楽観的だった占星術師たちは、生年月日に基づいて人間の性格を理解でき、星や惑星の位置を研究することで将来の出来事を予測できると信じていました。過去千年にわたるこうした約束は、しばしば王からの支持を得ており、天文学へとつながる科学的手法を取り入れていた人々の取り組みを遅らせた可能性があります。
錬金術や占星術が発展するにつれ、その実践者たちは、研究についてより慎重で体系的な態度をとるようになりました。現在であればより科学的と呼ばれるかもしれないその態度の変化は、やがて化学における重要な発見へとつながりました。たとえば18世紀のラヴォアジエやプリーストリーによる発見です。天文学では、ケプラーやニュートン自身が17世紀と18世紀に重要な発見をしました。人工知能にも、同様の転換点が訪れつつあります。大胆な革新者たちは、擬人化された設計や過剰な自律性という、魅力的ではあるが非現実的な夢を脇に置きつつあります。彼らは、人間の制御と責任を回復し、それに依拠し、拡大するシステムに焦点を当てています。
初期のAIの夢を刷新する
1950年代には、人工知能の研究者たちが、人間レベルの計算知能や機械の意識といった大きな目標を追求していました。過去20年間でさえ、一部の研究者は、あらゆる面で人間より優れた機械という「シンギュラリティ」の幻想に向けて取り組んでいました。こうした夢は、好意的な報道機関や政府や産業界からの資金援助を引きつけることに成功しました。しかし私にとって、そうした野心は今なお、逆効果を招く願望的思考とB級SFのように思えます。
人のように行動する人型ロボットを作るという夢でさえ、50年以上にわたって続いてきました。ホンダの実物大に近いAsimoや、ウェブベースのニュースリーダーであるAnanovaは、多くのメディアの注目を集めました。Hanson RoboticsのSophiaは、サウジアラビアの市民権さえ与えられました。しかし、それらに商業的な将来はほとんどありません。
ロボットのSophiaは国際連合で演説しました。
対照的に、情報検索、eコマースサイト、ソーシャルメディア、スマートフォンアプリにおける、現実的でユーザー中心の設計は、大きな成功を収めてきました。Amazon、Apple、Facebook、Google、Microsoftが世界最大級の企業の一つであるのには十分な理由があります。それらの企業はすべて、華やかさには欠けるものの、より機能的なタイプのAIを活用しています。
今日の携帯電話には、音声認識、顔認識、自動翻訳が搭載されており、いずれも人工知能技術を利用しています。これらの機能は、人間humanoid型ロボットのような欺瞞や演出を伴わずに、人間の制御を高め、ユーザーにより多くの選択肢を与えています。
制御を手放す
コンピューターの高度な自律性を追求する取り組みは、危険でもあります。開発者が機械は正しく機能すると想定すると、何か問題が起きた際に人間のユーザーがすばやく制御を取り戻せるようにするインターフェースが、しばしば軽視されます。
これらの問題は命に関わる場合があります。2018年10月のLion AirのBoeing 737 Max墜落事故では、センサーの故障により、新たに設計された自動操縦装置が機体を降下させました。パイロットたちは、機体を空中に保つためにその自動制御を無効化する方法を見つけることができませんでした。同様の問題は、株式市場の「フラッシュ・クラッシュ」の要因にもなっています。例えば2010年の事象では、1兆米ドルが36分で消失しました。また、設計の不十分な医療機器が、致死量の薬剤を投与してしまったこともあります。
2016年5月に発生した死亡事故を伴うTesla墜落事故に関する米国国家運輸安全委員会の報告書では、自動化システムが故障を分析できるよう詳細な記録を保持することが求められました。こうした知見は、より安全で効果的な設計につながるでしょう。
人間中心のソリューションに向けて
自動化の成功例は至るところにあります。ナビゲーションアプリは、代替ルートの所要時間を表示することで、ドライバーに制御権を与えます。eコマースサイトは、買い物客に選択肢、顧客レビュー、明確な価格を示し、必要な商品を見つけて注文できるようにしています。エレベーター、洗濯機、航空会社のチェックインキオスクも、ユーザーが必要なことを迅速かつ確実に行えるようにする有意義な制御機能を備えています。最新のカメラは、写真家が適切に焦点と露出を合わせた写真を撮影できるよう支援しますが、その際も写真家は、技術的な詳細の最適化の支援を受けながら、構図を決めることで達成感と充実感を得ています。
人間のような振る舞いをしたり、完全に独立したりすることなく、こうした、そして他の何千もの応用は、ユーザーが自信を持って、時には誇りをもって、自らの作業を達成できるようにしています。
主要な工学業界の専門団体による新たな報告書は、技術者に対し、魅力的な幻想を無視するよう求めています。むしろ報告書は、開発者は人間のパフォーマンスを支援し、より直ちに有用な技術に焦点を当てるべきだと示唆しています。
自動化が充実した世界では、明確で使いやすいインターフェースによって、人間が自動化を制御し、人々の主体性、創造性、責任を最大限に活かすことができるでしょう。最も成功する機械は、ユーザーが自信を持ってますます高度な作業を遂行できるようにする強力なツールになり得ます。例えば、建築家がエネルギー効率の高い建物を設計する革新的な方法を見つける支援や、ジャーナリストがデータを深く掘り下げて不正や汚職を発見するためのツールの提供などです。その他の機械は、安全でない医療状況や住宅ローン審査における偏りといった問題を、それらを助長するのではなく検知することができます。さらには、責任を負う人々に問題の解決方法を助言することさえ可能かもしれません。
人間は、自らの創造性を広げるツールを構築することに長けており、さらに設計者の意図を超える革新的な方法でそれらのツールを使いこなしてきました。私の考えでは、AI研究の錬金術と占星術の段階から離れることで、より多くの人々が、より多くの時間、より創造的になれるようにすべき時が来ています。
人間性の重要な側面を理解し、高めている技術設計者こそが、次世代の強力なツールを生み出す可能性が最も高いのです。こうした設計者は、機械の中で人間の行動を置き換えたり模倣したりすることから、人々が喜んで使う、非常に成功したアプリケーションを構築することへと転換していくでしょう。
