現在、AIは効果的なリーダーとなるための感情的理解力と技術的能力を欠いています。
しかし、その急速な発展により、AIの可能性はほぼ無限大です。
人類のためのAI技術センターの創設者兼ディレクターであるデイビッド・デ・クレマー氏は、AIが人間の持つ「汎用知能」を獲得し、近いうちに管理職に戦略的に配置される可能性について語ります。
職場におけるAIについては依然として多くの疑問があり、人間の労働力の多くが置き換えられるのではないかという懸念もあります。
人工知能への注目の高まりは、社会科学や人文学との統合について重要な問いを提起しており、これについて、デイビッド・デ・クレマー、人類のためのAI技術センターの創設者兼ディレクターを務める人類のためのAI技術センター（シンガポール国立大学ビジネススクール）に所属しています。同氏は最近の著書『Leadership by Algorithm: Who Leads and Who Follows in the AI Era?』
現在のAIは反復的なタスクに優れ、多くの管理業務を代替できますが、時間の経過とともに人間の持つ「汎用知能」を獲得する可能性もあると、同氏は最近のインタビューで語りました。インタビューは、『AI for Business』（AIB）、新たな取り組みで、Analytics at Whartonの一環です。ウォートン校のオペレーション・情報・意思決定分野の教授であるKartik Hosanagarが率いるAIBは、学生が機械学習の知識と応用を深め、AIがビジネスや社会にもたらす影響を理解できるよう支援することに焦点を当てた研究イニシアチブです。
デ・クレマー氏によると、AIが「魂」を持つことは決してなく、人々に創造性や多様な視点を持たせる人間のリーダーシップの資質に取って代わることはできません。AIの開発と応用を、人間のニーズに最も適した形で導くにはリーダーシップが必要です。「未来の仕事は、テクノロジーを理解し、それが人間のアイデンティティにとって何を意味し、私たちが望む社会にとって何を意味するかを理解する[哲学者の仕事]になるかもしれません」と同氏は述べました。
AI for Business：人工知能について多くのことが書かれています。何がきっかけで『Leadership by Algorithm』を執筆しようと思われたのですか？既存のAIに関する書籍のどのような空白を埋めようとされていたのでしょうか？
デイビッド・デ・クレマー：AIは以前から存在しています。この用語は1956年に作られ、1970年代半ばまで「第一の波」と呼ばれる研究を生み出しました。しかし21世紀に入ってから、より直接的な応用が明らかになり、AIの「真の」潜在能力に対する私たちの見方が変わりました。この変化は、AIがチェスや中国のゲームである囲碁の世界チャンピオンと対戦するようになったことで特に加速しました。注目の大半は、そして今も、テクノロジーそのものに向けられています。つまり、テクノロジーが知的に見える振る舞いをすること、それこそが人工知能の単純な定義でもあります。
それは人間が持つ知能と同じような形で知的に見えます。私はコンピュータ科学者ではなく、専門は行動経済学です。しかし、社会科学、人文学、人工知能の統合が本来受けるべき注目を集めていないことに気づきました。人工知能は、人間が暮らす社会に価値を生み出すためのものであり、エンドユーザーは常に人間でなければなりません。つまりAIは、社会的文脈の中で行動し、考え、読み取り、成果を生み出さなければならないのです。
AIは反復的で定型的なタスク、そして体系的かつ一貫した思考に特に優れています。これは、AIに取って代わられる可能性が最も高いタスクや仕事はハードスキルであり、ソフトスキルではないことをすでに示唆しています。ある意味で、この観察は「モラベックのパラドックス」と呼ばれるものに一致します。すなわち、人間にとって容易なことはAIにとって難しく、人間にとって難しいことはAIにとってむしろ容易に見えるのです。
したがって、重要な結論として、人間の今後の発展においては、ソフトスキルを鍛えることがさらに重要になるということです。多くの人が想定するのとは逆に、重要性が減ることはありません。こう説明したのは、特にCOVID-19以降、私たちが新しいテクノロジーにより適応する必要があり、またそれを求められていることを示す兆候が今日多く見られるからです。その結果、AIが社会で果たす役割と影響力は支配的な地位に置かれています。私たちがより自覚するにつれ、人々はアルゴリズムによって自分の好みを告げられる社会へと移行しつつあり、ほとんどの人はそれに疑問を持つことなく容易に従っています。こうした状況を考えると、AIがリーダーの地位に就くことはもはや荒唐無稽な空想ではないように思われ、だからこそ私はこの本を書きたいと思ったのです。
私たちはアルゴリズムによって自分の好みを告げられる社会へと移行しつつあり、ほとんどの人は、それにあまり疑問を持つことなく、容易に従っています。
デイビッド・デ・クレマー
AIB：AIの開発を、人間性を損なうことなくテクノロジーをより効率的にする形で行うことは可能でしょうか？なぜこのリスクが存在するのでしょうか？それは軽減できるのでしょうか？
デ・クレマー：可能だと考えています。これは本書のテーマにも関係しています。[重要なのは]適切なリーダーシップを持つことです。本書は、AIがリーダーに取って代わるかどうかだけを論じたものではありません。人間には、テクノロジーが決して持つことのできない特有の資質があることも指摘しています。機械に魂を吹き込むことは困難です。もしそれができれば、私たちは生命の秘密も理解することになるでしょう。私は、今後数十年のうちに[それが実現する]ことにあまり楽観的ではありませんが、私たちには大きな責任があります。私たちは、わずか数年前には想像もできなかったことを行える、AIあるいは機械を開発しているのです。
同時に、視点を持ち、それを取り入れる力、先を見越した思考、抽象化する能力といった人間特有の資質があるからこそ、そのテクノロジーをどのように使うかは私たち次第です。今日のリーダーシップを見ても、世界には大きな合意が見られないと感じます。私たちは、リーダーの育成、すなわちビジネスリーダー、政治リーダー、社会的リーダーの育成に十分な注意を払っていません。優れたリーダーシップ教育が必要です。教育は子どもたちから始まります。[重要なのは]子どもたちに、創造性、他者と協力する力、互いの視点を受け入れる力、そして私たちの社会を形作る一定の責任感を大切にすることを、どのように教えるかです。ですから、私たちが人間としてのアイデンティティと、人間的な社会のために生み出したい価値を明確にできれば、機械を善のために活用できるのです。
AIB：アルゴリズムは、仕事の管理方法においてますます重要な要素になりつつあります。その影響は何でしょうか？
デ・クレマー：アルゴリズムとは、データを知的なものにするモデルであり、私たちのデータ収集を通じて捉えられる、周囲の世界で起きているトレンドを認識する手助けをするものです。適切に分析されたデータは、環境にどのように対処すればより良く、より効率的になるかを教えてくれます。これは、ビジネススクールにおいて私が取り組んでいることです。ビジネスリーダーがアルゴリズムや自動化をいつ、どこで、なぜ使うべきかを理解し、より効率的な意思決定を行えるよう、よりテクノロジーに精通した人材にする方法を探っています。
多くのビジネスリーダーは、なぜ自社がAIを使うべきかについての事業計画を立てることに苦労しています。AIが自社にどのような利益をもたらせるのかを理解するのにも苦心しています。今日、その多くは、「事業者は、他のすべての企業が行っているのだから、AI導入に取り組まなければならない」と示す調査の影響を受けています。しかし、AIが自社独自の企業にどのように役立つのかは、しばしば十分に理解されていません。
すべての企業には、その企業に固有のデータがあります。自社の戦略を[形作る]ことや、自社が生み出せる、そして生み出したいと考える価値という観点から、そのデータを活用しなければなりません。これを実現するには、自社を定義する価値観を理解し、競合他社と自社を区別するものを理解する必要もあります。私たちは、ビジネスリーダーにこのように考えるよう教育する点で十分な成果を上げられていません。彼らに自らコーダーになるべきだと考えさせるのではなく、テクノロジーがビジネスプロセスの一部となる環境において、自社の価値観に沿った事業戦略を追求できるよう、もう少しテクノロジーに精通することに重点を置くべきです。
これは、ビジネスリーダーがアルゴリズムの正確な働きを理解しているだけでなく、その限界や可能性、そして企業の意思決定の連鎖のどの部分でAIを使って生産性と効率性を高められるかも理解していることを意味します。これを実現するには、事業プロセスに関する広範な知識を最適化し、自社と社会の効率を最大化できるほど、テクノロジーに精通したリーダーが必要です。今日、多くのビジネスリーダーにおいて、私はそこに弱点があると考えています。
間違いなく、AIは新たな同僚となるでしょう。事業プロセスのループのどこで自動化するのか、どこで人間をループから外すことが可能なのか、そしてどこで必ず人間をループ内に残すのかを判断することが重要になります。それは、自動化やAIの利用が、人々が機械に監視されていると感じたり、ロボットのように扱われたりするような労働文化につながらないようにするためです。私たちはこれらの問いに敏感でなければなりません。リーダーは文化を築きます。そしてその過程で、企業が業務の進め方を決め、ビジネス価値を生み出すために用いる価値観や規範を伝え、体現するのです。
AIB：機械が身体を置き換えたように、アルゴリズムが人間の精神を置き換えているのでしょうか？それとも、アルゴリズムや機械が精神と身体の能力を増幅させているのでしょうか？AIによって人間の精神的能力が時代遅れになるのではないかと心配すべきでしょうか、それとも単にそれらが変化するだけなのでしょうか？
デ・クレマー：それは大きな哲学的問いの一つです。ここではデカルトを挙げることができます。彼が[提起した]身体と精神[の問題]。産業革命によって身体は機械に置き換えられたと言えます。また、人工知能によって今や精神も置き換えられると信じる人もいます。つまり、身体と精神は基本的に機械に取って代わられているのです。
私の著書で述べたように、この点にはさらに複雑な面があります。身体と精神は結びついていることも私たちは知っています。両者を結びつけているのは魂です。そしてその魂は機械ではありません。現時点で機械は、自らの環境を理解するとはどういうことか、そこから意味がどのように導き出されるのかを真に把握していません。人間性とAIという観点から、さらに重要なことは、機械は人間について、あるいは人間であるとはどういうことかを考えないということです。機械は人間を気にかけません。もし今日あなたが死んだとしても、AIはそのことを心配しません。
つまりAIは、意味論や深く感じられる感情を理解するという点で、現実との結びつきを持っていません。AIには魂がありません。それこそが身体と精神が機能するために不可欠なのです。素晴らしいチームを作りたいなら、1足す1は3だと言います。しかしこの場合、AIや機械が身体を置き換え、その後精神を置き換えたとしても、依然として1足す1は2のままで、3にはなりません。そこには魔法がありません。そのため、私はAIが私たちの精神を置き換えているとは考えていません。
次に、先ほど提示した単純な定義は、人工知能とは、機械が行う行動や意思決定が知的に見えることを表す、というものです。この定義は、機械知能が人間の示す知的行動を模倣できるという考えに基づいています。しかし、機械が人間のように行動するように見えるからといって、私たちが同じ種類の知能や存在について話しているとは限りません。
機械学習を見ると、それはニューラルネットワークを手本としています。しかし私たちは、例えば神経科学がいまだ脳の働きについてほとんど、もしかすると10%すら分かっていないことも知っています。したがって、私たちはすべてを知っていると言い、それを機械に入れて人間の精神を完全に再現したと主張することはできません。
私が常に用いる最も単純な例は、コンピュータは1と0で動作するが、人間は1と0で動くわけではない、ということです。人間との倫理について話すとき、物事はほとんどの場合白か黒ではなく、むしろグレーです。人間は、そのグレーの領域を理解することができます。なぜなら、私たちは育ち、教育を受けてきた過程で、直感や道徳的な羅針盤を培ってきたからです。その結果、私たちは曖昧さを理解できます。現時点でコンピュータにはそれができません。興味深いことに、今日では子どもを教育するように機械を訓練できるかどうかを確かめる取り組みが行われています。もしそれが成功すれば、機械は私たちと同じように曖昧さに対処できるようになるでしょう。
AIB：これらの問いは、リーダーシップにどのような影響を与えるでしょうか？より賢くではなく、より賢明に使われるテクノロジーの設計を促すうえで、リーダーはどのような役割を果たせるでしょうか？
機械が人間のように振る舞えるように見えるからといって、私たちが同じ種類の知能や存在について話しているわけではありません。
デイビッド・デ・クレマー
デ・クレマー：私は管理者とリーダーを区別しています。組織を運営するには、管理とリーダーシップの両方が必要です。管理は、企業が安定的で秩序立った形で機能するための基盤を提供します。手順を定めることで、物事をある程度予測可能にします。20世紀初頭以降、企業が規模を拡大するにつれ、企業を管理し、混乱を[避ける]必要が生じました。したがって管理は混乱の反対であり、構造化し、混乱に秩序をもたらすことであり、目標を評価する指標を用い、KPIを多かれ少なかれ予測可能な方法で達成することです。ある意味で、私たちが知る管理とは、現状維持のシステムなのです。
しかし、リーダーシップは現状維持に焦点を当てるのではなく、変化に対処し、変化に伴う混乱に対処するために方向性を示す責任を扱います。だからこそ、リーダーが適応し、機敏であることが重要です。なぜなら、物事が変化したとき、リーダーには[解決策を提供する]ことが期待されるからです。そこでは、創造的であること、先を見越して考えること、人々がどのような価値を求めているかを理解すること、そして変化が生じたときにその価値が確実に実現されるよう適応することといった私たちの能力が発揮されます。
AIは管理に極めて適用しやすいでしょう。管理は一貫しており、現状維持に焦点を当てようとし、その反復性ゆえに本質的にかなり予測可能な活動だからです…そしてこれは基本的にアルゴリズムの働き方でもあります。AIはすでに、従業員の行動を予測することでこの種の仕事を行っています。たとえば、従業員が会社を辞めるかどうか、あるいはまだ仕事への意欲を持っているかどうかを予測します。多くの管理上の意思決定において、アルゴリズムが大きな役割を果たせると私は考えています。最初はAIが情報を提供する助言者として始まり、やがて徐々に管理業務へと移行していくでしょう。私はこれを「アルゴリズムによる管理（MBA）」と呼んでいます。理論的にも実践的にも、これは起こるでしょう。なぜなら、今日組織で私たちが知るAIは、静的なデータセットを扱うことに長けているからです。しかし、複雑さに対処することには問題があります。ここが、今日私たちが知るAIがリーダーシップの面で不十分な点です。
ロボティクスや自動運転車に取り組むコンピュータ科学者は、ロボットにとって最大の課題は、人との相互作用、物理的接触、そしてタスクの実行に合わせて動きを調整することだと言います。基本的に、ロボットがチームの文脈で働くことは、火星にロボットを送るよりも難しいのです。その理由は、環境が複雑になるほど、ロボットが間違いを犯す可能性が高くなるからです。私たちは、ロボットが人間に危害を加えることに対してより寛容でないため、自律型ロボットや車両が人間と相互作用することは危険な活動になります。
リーダーシップは変化に対処することです。それは、人間にとって価値があると分かっている決定を下すことです。人間であることが何を意味するのかを理解し、人間的な懸念を持ち、思いやりを持つことができ、人間味を持てることを考慮に入れる必要があります。同時に、想像し、先を見越して行動できなければなりません。なぜなら、変化する状況における戦略は、同じ価値を生み出すために調整が必要になることがあるからです。その抽象化を行えなければならず、AIにはそれができません。
AIB：思いやりの問題を取り上げていただきうれしく思います。アルゴリズムに基づくリーダーシップは、共感、思いやり、好奇心、あるいは創造性を持つことができると思いますか？
[人工知能]は複雑さに対処する問題を抱えています。ここが、今日私たちが知るAIがリーダーシップの面で不十分な点です。
デイビッド・デ・クレマー
デ・クレマー：スタートアップや科学者は、私たちが「感情的AI」と呼ぶものに取り組んでいます。AIは感情を検出し、感じ取れるでしょうか？概念的には理解しやすいです。ですから、はい、十分な訓練データがあれば、AIは感情を検出できるようになるでしょう。もちろん、感情は人間にとっても複雑なものであり、感情が人間の経験にとって何を意味するのかを真に理解することは、（少なくとも今後数十年は）AIにはできないでしょう。前に述べたように、AIは人間であることの意味を理解していないため、人間を人間たらしめる感情知能の観点は、機械にとって明らかな限界です。だからこそ、それを人工知能と呼ぶのです。また、人間もAIを持っていると言えることも指摘しておく必要があります。私はそれを真正知能（authentic intelligence）と呼んでいます。
現時点でAIは真正知能を持っていません。人々は、AIシステムは真正の感情や真正の道徳感覚を持つことはできないと信じています。AIには人間が備えているような共感的で実存的な資質がないため、それは不可能なのです。また、アルゴリズムが魂を持たないことを考えると、真正知能を容易に実現できるかどうかも確信が持てません。したがって、もし灰色の領域や曖昧さを理解できる人間の常識に相当する常識をAIに注入できないのであれば、真正で本物の共感を発展させられるとは思いません。
AIが学べるのは、模倣の原理によるもので、私たちが表層的な感情と呼ぶものです。AIは反応することができ、顔をスキャンし、声の調子を聞き取り、感情のカテゴリーを識別し、人間が通常反応する方法で反応できるようになるでしょう。それは人間が表現する感情に対する表層的な理解です。そして私は、この能力が、人間との大半のやり取りにおいて機械が効率的であるための助けになると考えています。
なぜそれがうまくいくのでしょうか？人間は、対話相手が自分の感情に反応してくれることに非常に敏感だからです。そのため、ほぼ瞬時に、そして無意識のうちに、誰かが自分に注意を向けてくれると、私たちも応えます。表層的な感情を認識するだけでも、すでに十分に効果があるのです。より深いレベルの感情は、私が真正知能と呼ぶものに対応し、それは本物であり、そのような感情の理解こそが、友情や長期的なつながりを築くために必要なものです。今日私たちが知るAIは、そのような能力にはほど遠いのです。
創造性についても、同様の話です。創造性とは、人々にとって新しく意味のある新しいアイデアを生み出すことです。それは有用な問題を解決し、人々にとって意味を持ちます。AIはその中でも、新しいものを見つけ出すことにおいて役割を果たせます。アルゴリズムは、データをスキャンし、分析し、トレンドを観察することが私たちよりはるかに速くできるため、情報を結びつけることにおいて人間よりもはるかに速いです。したがって、創造性の最初の段階では、はい、AIは私たちが知っていることを組み合わせ、人間よりもはるかに速く、かつ優れた新たな組み合わせを生み出せます。しかし、その新たな組み合わせが、人間が解決したい問題を解く意味を持つかどうかを評価するためには、人間が必要になります。創造的なアイデアは、人々にとって意味のあるものになったときに価値が高まるため、創造性のプロセスの最後の段階として、人間による監督が必要になるでしょう。
今日私たちが抱える懸念の一つは、機械が不平等を減らすのではなく、むしろ拡大させていることです。
デイビッド・デ・クレマー
一例を挙げて説明しましょう。AIにピザの材料をいくつか与え、ピザを作らせる実験が行われました。その結果、人間にとって魅力的なピザができたものもありましたが、パイナップルとマーマイトのような、人間がほぼ食べなさそうな製品になってしまったものもありました。マーマイトは英国で人気があり、CMによると、人々はそれを好きか嫌いかのどちらかだそうです。つまり、難しい食材なのです。しかしAIは、人間がそのような製品を好むか、あるいは有用だと感じるかについて考えるわけではなく、新しい組み合わせを特定するだけです。ですから、そのようなアイデアが結局のところ有用で、意味のある製品と見なされるかどうかを判断するためには、常に人間が必要なのです。
AIB：アルゴリズムによる管理の限界は何でしょうか？
デ・クレマー：管理という狭い視点から見れば、限界はありません。私は、将来的にはAIがほぼあらゆる管理業務を行えるようになると考えています。それは、管理を、指標（例：KPI）を用いて安定性、秩序、一貫性、予測可能性を生み出すことに焦点を当てたものと定義しているからです。
AIB：アルゴリズムが主導権を握るのではなく、人類に奉仕し続ける未来へどのように進めばよいでしょうか？
デ・クレマー：まず、すべての管理者とリーダーは、AIとは何かを理解しなければなりません。AIの可能性と限界、そして人間が介入して責任を負うべき点を理解する必要があります。人間性は重要です。私たちは、人々がテクノロジーを効用の観点からだけ見ないようにしなければなりません。効用の観点では、人を多く雇わなくて済むことや、特定の作業をするために人々を訓練しなくてよくなることで、コストを削減し、企業をより効率的に運営できるという見方になってしまいます。
私は、人々がはるかに内省的になる社会を見たいと考えています。未来の仕事は、哲学者のようなものになるかもしれません……テクノロジーを理解し、それが私たちの人間としてのアイデンティティにとって何を意味するのか、そして私たちが目指したい社会にとって何を意味するのかを理解する存在です。AIはまた、私たちが一つの種としてどのような存在なのかについて考えさせます。私たちは本当に何を達成したいのでしょうか。AIを同僚とし、AIを社会の一種の市民としたとき、「私たち対彼ら」という考え方が、私たちが目指したい研究機関、組織、社会の在り方についての議論や対話において指針となることは確実でしょう。私はこの認識を著書の中で「新しい多様性」と呼びました。人間対非人間、すなわち機械です。これにより、私たちは自分たちが何者であるかについても考えるようになり、どのような価値を創出したいのかを決めるためにそれが必要になります。その価値が、私たちがテクノロジーをどのように活用するかを決定するのです。
今日私たちが抱えている懸念の一つは、機械が不平等を減らすのではなく、むしろ拡大させているということです。例えば、AIは学習するためにデータを必要とすることは、誰もが知っています。しかし、データは誰にでも広く利用可能なのでしょうか、それとも一部の限られた人々だけのものなのでしょうか。Amazon、Facebook、Appleなどの「いつもの容疑者」たちを見てみると、彼らがデータの大部分を所有していることがわかります。彼らは、顧客そのものが商品となるビジネスモデルを採用しました。私たちのデータは彼らにとって価値があります。その結果、これらの企業はAIを改善するために必要な、より高度な実験を実施できるようになり、それはつまりテクノロジーもまた一部の人々の手中にあることを意味します。今日、データの民主化は存在しません。AI研究における重要な今後の方向性の一つは、処理と予測の面でAIをより強力にすることであるという事実を踏まえると、AIを適切に管理せず、社会全体にとって良いことかという観点から考えなければ、リスクに直面する可能性があるという懸念が確かに存在します。私たちの未来は、誰もがテクノロジーに精通しているが、人間のアイデンティティに関する懸念や内省を排除しないものでなければなりません。それこそが、私が目指したい教育なのです。
