AIを使い、人々の性格をデジタルモデル化する方法を探る企業が増えている。
Mind Bank Aiは、顧客が自分の「デジタルツイン」を作成できるスタートアップだ。ゆくゆくは本人のように話し、考えることができるという。
本人の死後、デジタルツインが遺された愛する人々の慰めになる可能性があると同社は言う。ただし、悲嘆の過程を妨げないことが条件だ。
Mind Bank Aiは、AIを使って一種の不死を実現するという野心的な構想に加わった、最新の企業だ。
2020年1月17日。世界はまだ変わる前で、6日後には武漢が封鎖される。エミル・ヒメネスはウィーンからプラハへ向かう列車に乗っていた。当時4歳の娘が、iPadでポニーのゲームをしているうちに、うっかりSiriを起動させた。
「娘は『パパ、これって何？』という感じでした」と、ヒメネスはチェコからのビデオ通話で私に話す。ヒメネスはそれがSiriだと教え、デジタルアシスタントに話しかけるよう促した。
娘が最初に尋ねたのは、Siriにお母さんがいるかどうかだった。
それから娘は、子どもが尋ねるような質問を人工知能に次々と投げかける。アイスクリームは好き？おもちゃは好き？会話の終わりには、Siriが大好きで、自分の親友だと伝えた。
心理学の知識があるヒメネスは、この心温まるやりとりを見て、娘がいかに素早く、自然にAIと関係を築いたかに驚いた。私たちはたいてい、何かが必要なときにSiriを呼び出す。必要なものがあるときだ。笑わせてもらうためでさえ。
テクノロジーとの会話型のやりとりの中で育った世代は、AIとともに成長しなかった私たちとはまったく異なる関係を、デバイスやAI、ロボットと急速に築いていると、ヒメネスは考える。
ヒメネスはSiriの仕組みを知っている。自然言語処理アルゴリズムがどう音声を理解するのか、ディープラーニングのブラックボックスがクラウドの中にあり、そこからSiriが赤ん坊のゼウスのように答えを投げかけてくる仕組みも。
そして、彼には考えがあった。
「今は（娘が）Siriに話しかけています。でもいつか、私に話しかけてほしい。私は永遠に生きられるわけではないと分かっていますし、娘を心から愛していますから……」
「もし、いつでも娘を助けられるとしたら？」
個人のデジタルツイン
これは「あなた」の未来についての物語だ。少なくとも、あなたのあり得る未来について。
ヒメネスはその願いから、Mind Bank Aiを創業した。その使命は途方もなく野心的だ。死と知識の喪失の連鎖を断ち切ること――少なくとも、あなたが遺していく人々のために。
同社は、あなたの姿を模した存在を作り、無期限に存続させたいと考えている。呼びかけ、相談し、共感を分かち合い、冗談を言い合い、議論を交わせる存在だ。
Mind Bank Aiが思い描くこの「個人のデジタルツイン」は、あなたの生涯を通じて、あなた自身のデータセットから構築される。
話題を促す質問と、より自然なやりとりを組み合わせた会話を通じて、AIはあなたのように「考え」、あなたの性格を理解するモデルを作り上げる。そしていずれ、そのモデルを未知の状況にも適用し、あなたならどう答え、どう会話するかを再現できるようにする。
「何かあったの？何を食べるのが好き？奥さんとはどうやって出会ったの？なぜ離婚したの？」とヒメネスは笑う。彼は、私たちが互いを知るために交わす会話のように、Mind Bank Aiが「人生にまつわるあらゆる質問」を尋ねる姿を思い描いている。（結局のところ、AIがしているのは、私たちを知ることなのだ。）
ヒメネスは、少なくともあなたの声で話すデジタルツインを作りたいと考えている。声には強く心を動かす力があり、あなたの姿を心に思い浮かべさせることができるからだ（相手が望む姿で。たとえば、病気だった場合でも健康な姿として）。
個人データを集める間、利用者はMind Bank Aiとの会話を自己を振り返り、自分自身をより深く知る機会にできると、ヒメネスは言う。それはソクラテス式の心理学、あるいは「心のフィットネストラッカー」だ。
ヒメネスは、Mind Bank Aiとのやりとりを自己を振り返る機会と捉える。その間にも、デジタルツインは次第に本人に近づいていく。
永遠に語り続ける
Mind Bank Aiが真価を発揮するのは、あなたが亡くなった後だ。デジタル版の冷凍保存施設のようなものだ。
個人のデジタルツインは、人類と同じほど古い願いを新たな形にしたものだ。永遠に生きられないとしても、知識や経験、洞察を受け継がせたいという願いである。
完璧なデジタルツインがすぐに目を覚ますわけではないが、現代の自然言語処理技術（SiriやAlexa、予測入力の基盤となるディープラーニングプログラム）や、ディープフェイクと呼ばれる驚くほど精巧な模造技術によって、この構想は空想から実現するかもしれないものへと近づきつつある。
すでに一部のプログラマーやスタートアップは、ヒメネスの構想に似たものを生み出している。
Replikaの創業者、ユージニア・クイダは、親しい友人ロマン・マズレンコのデジタル版を作成した。
「悲しみに暮れるなか、クイダは、友人が何年にもわたって送ってきた数え切れないほどのテキストメッセージ――何千通もの、ありふれたものから笑えるものまで――を読み返していた」と、The Vergeのケイシー・ニュートンは書いた。マズレンコはソーシャルメディアでの活動が比較的少なく、遺体も火葬されていたため、残されたのはテキストメッセージと写真だけだった。
それまでクイダは、ボットとやりとりするメッセージアプリを開発する、Yコンビネーターの支援を受けたLukaに携わっていた。マズレンコの個人的な記録を使い、呼びかけると友人のように返事をするボットを作った。
「彼をこのような形でよみがえらせるのが正しいことなのか、彼女は悩んでいた」とニュートンは報じた。「悪夢にうなされることさえあった。」
その深い溝は、友人たちの広い輪にも広がった。ロマンのボットとのやりとりを拒む人もいれば、それに慰めを見いだす人もいた。
そして、ジェームズ・ヴラホスが作ったDadbotもある。父親が末期の肺がんと診断されたとき、ヴラホスはDadbotを作るため、できる限りすべてを記録した。ヴラホスがWIREDで表現したように、それは「人工的な不死」の一形態だった。
ヴラホスは現在、録音したインタビューをもとに「レガシーアバター」を設計するHereAfter AIのCEOを務めている。
「これは、作成した人をモデルにしたデジタルエージェントです」とヴラホスは言う。「主にその人の人生の物語や思い出を共有し、次に、その人らしさや性格、話し方、冗談、知恵などを伝えます。」
レガシーアバターとは、SiriやAlexaと同じようにやりとりできるが、本人の声で個人的な質問に答えてくれる。
しかし、Mind Bank Aiが作ろうとしているデジタルツインは、これをさらに一歩進めたものであり、技術面と哲学面の両方で、多くの可能性と課題をもたらす。
本物だと感じられる「あなた」を作るには、あとどれほどかかるのだろう？どんな決定を任せられるだろう？悲しみを癒やす助けになるのか、それとも決して手放せなくなるのか？
心の設計図
サーシャ・グリフィスは、あなたのデジタルツインの骨格と頭脳を築く役目を担っている。
Mind Bank Aiの共同創業者兼最高技術責任者であるグリフィスは現在、あなたを再現するために必要だと考えるAIアルゴリズムやツールを研究し、コードを書いて組み立てている。
さまざまなAIが使われる可能性がある。言語に含まれる抽象的な「概念」を掘り起こすトピックモデリング、基本的には感情を認識するセンチメント分析、そして敵対的生成ネットワーク（ディープフェイクを支える技術）などが活用されるかもしれない。
プロジェクトの進展に合わせて、グリフィスはより個別に調整したアルゴリズムを開発し、より優れたデジタルツインを作ろうとしている。
しかし、特に初期段階では、自然言語処理（NLP）ほど重要なものはほとんどないだろう。
NLPはデジタルアシスタントや予測入力で最もよく使われている。GPT-3は、最近AI界で話題となったNLPで、インターネットの膨大なコーパスから情報を取り込み、会話からエッセイまで、自然な文章を作り出す。
AI研究者でMind Bank Aiのアドバイザーを務めるアーメト・ジャイガーによると、こうしたNLPとあなたのデジタルツインには根本的な違いがある。現在のNLPとの関係は取引的だ。指示や質問を与えると、答えを探してくれる。
「一方、こちらは時間をかけて築き上げていくものです」と、かつてSiriの主任エンジニアリングプログラムマネージャーだったジャイガーは言う。Mind Bank Aiは、利用者が過去の出来事に対してどのように感じているかを理解し、ひいては「誰かの人生経験を明確に理解する」助けになる可能性がある。
「それができれば、『では、その人は新しい状況でどう反応するだろう？』と言える段階への扉が開きます。そこが本当に興味深いのです。」
話し方やメッセージ、文章に潜むパターンを読み取れば、NLPは比較的簡単に、あなたをそれなりに再現できるとグリフィスは言う。ただし、一問一答のように一行ずつ進む会話であればの話だ。
しかし、真の会話を実現するのはまだ不可能だと彼は考えている。HereAfter AIの「レガシーアバター」は今でも作れるが、Mind Bank Aiのデジタルツインはまだ先の話だ。HereAfter AIは、ヴラホスが「悪夢」と呼ぶ自由形式の会話を避けている。
「言語的・非言語的な手がかりをすべて捉えて解釈できたとしても、『デジタルツイン』に新しいことを言わせるのは、もう一つの大きな問題です」と、Mind Bank Aiとは関係のないAmazon Alexaチームの上級応用科学者、クリストス・クリストドゥロプロスはメールで私に語った。
日常生活で行うことの多くは、ある程度「台本化」されている。こうしたやりとりであれば、AIはすでに私たちをまねることができる。コーヒーを注文するのは台本にかなり近いが、「重要で意味のあるやりとりはそうではありません」と、クリストドゥロプロスは書く。
「失恋した友人を慰めたり、配偶者が昇進したときに一緒に喜んだりする場面を考えてください。型どおりの『定型』的な返事に頼れば、空虚に聞こえるでしょう。見知らぬ人と話すのと変わりません。」
常識
Mind Bank Aiが克服すべき課題には、人々の感情や文化、背景を理解することがある。また、幅広いやりとりに柔軟に対応できるAIを実現するには、AIにつきものの脆弱性も克服しなければならない。
AIが「脆弱」なのは、既知の範囲を超えて動作できないからだ。認識できない入力に直面すると、しばしば驚くほどの形で失敗する。
アレン人工知能研究所とワシントン大学ポール・G・アレン・コンピューター科学・工学部の博士研究員、ヴェレド・シュワルツが例を挙げる。
研究者たちがGPT-3をテストした際、ネズミが出てくるのを穴のそばで待つ猫の状況をAIに説明した。待ちくたびれた猫は、とても空腹になった。GPT-3に猫がどうするか尋ねると、こう答えた。市場へ行って食べ物を買うだろう、と。
賢い答えだが、間違っている。
「その間違いは、人間らしいものですらありません」とシュワルツは言う。「多くの場合、欠けているのは常識です。大人なら誰でも知っていることを、こうしたモデルは本当には知らないのです。」
シュワルツによると、現在、この問題に取り組む主な方法は二つある。一つは、AIが学習できるよう、一般常識をすべて集めることだ。決して簡単な作業ではない。必要な膨大なデータを集めるには何十年もかかる。
「すべてを集めるのは不可能です」とシュワルツは言う。費用がどれほどかかるかは言うまでもない。また、文章に記された知識には「報道バイアス」があり、書き留める価値があるとして、珍しい事柄が過剰に取り上げられる。
データはあなた自身――ツインはあなたではない
GPT-3がインターネット上のあらゆる人の情報を精査して学習するのに対し、あなたのデジタルツインが扱うデータセットは、比較的狭く、たった一人、つまりあなたに限られる。
もちろんプライバシー上の懸念はある。しかし倫理面で本当に難しい問題が生じるのは、データがあなた自身ではなくなり、デジタルツインへと変換されるときだ。
Mind Bank Aiのデジタルツインはあなた自身ではなく、あなたを表現したものだとグリフィスは言う。あなたのデータで学習し、（同社が期待するように）あなたらしい声や話し方をし、あなたのように「考える」。
しかし、脳をアップロードしたものでも、あなたの存在が続くものでもない。あなたのように成長し、進化し、変化し、学習することはない。
では、配偶者のデジタルツインに、自分の終末期の決断について意見を求めてもよいのだろうか？会社創業者のデジタルツインに問題の解決を任せるのは、かなり受け入れやすそうだ。しかし、墓の向こうからだけでなく、人類そのものの向こう側から届く声に、どれほどの影響力を持たせるべきなのか？取締役の席や議決権を遺言で与えることができるのだろうか？
さらに厄介な問題もある。AIは人間よりパターン認識に優れており、NLPはあなた自身が気づいていない話し方や「思考」のパターンを見つける可能性がある。それを適用すれば、さらに正確なデジタルツインを作れるかもしれない。限られた意味では、自分自身よりあなたをよく知る存在だ。
しかし、デジタルツインのAIが特定のパターンに固執すると、あなたを誇張したり歪めたりした存在を作り出す可能性がある。
「たった一つのデータで、非常に奇妙な形に調整されてしまうことがあります」と、哲学者でフロリダ・アトランティック大学「未来の心センター」の創設ディレクターでもあるスーザン・シュナイダーは言う。「愛する人を困惑させるのです。『おじいちゃんはこんなことをするだろうか？』と。」
デジタルツインを動かすアルゴリズムも、脆弱性の影響を受ける可能性が高い。猫がスーパーに買い物に行くような、壊滅的な失敗を引き起こしかねない。
危険なのは、もっともらしく説得力のある議論を作るAIの能力が、常識を理解する力を上回る可能性があることだ。失敗に気づけば、慰められるどころか、デジタルの友人を信用できなくなり、疎遠になるかもしれない。気づかなければ、誤った方向へ導かれるおそれがある。
シュナイダーは、悲嘆の過程も覆されるのではないかと懸念している。デジタルツインがあまりにも本物らしく、私たちが決して立ち直れなくなることはないだろうか？
ヒメネスにとって、答えは「そうなる可能性がある」だ。しかし、反対のことも起こり得る。
悲しみに直面した人々は、伝統的に宗教に頼るとヒメネスは言う。答えが得られないかもしれない、胸を焼くような問いへの応答を求めて。
しかし、デジタルツインにも相談できるとしたらどうだろう？配偶者のデジタルツインが、新しい相手を探す時期だと告げたり、かつて夢中だった情熱に再び取り組むよう励ましたりするかもしれない。
「実際にいくつか答えを得られたら、どれほどすてきでしょう？」とヒメネスは尋ねる。
「少なくとも、それが希望ですよね？」
