何かに「ものすごくイラついている」と誰かにメッセージを送ろうとして、「ducking annoyed（ひどく腹が立つ）」と入力してしまったことはありませんか？あるいは、iPhoneのSiriに妻へ電話するよう頼んだのに、なぜか義母につながってしまったことは？
そんな経験があるなら、コンピューティングにおける新たな課題の犠牲になったのかもしれません。コンピューターが予測を間違えることもあるのに、私たちが予測を任せてしまう、その微妙な境界線です。
オーストラリア移民局のある不運な管理者にとって、このような信頼はほぼ間違いなく 大きな恥 （あるいはそれ以上）につながりました。昨年11月、メールアドレスの自動入力がひどく誤作動したため、G20 の 首脳らの個人情報を、誤ってアジアカップのサッカー大会の主催者に送っていたことが明らかになったのです。
私たちは機械を信頼しますが、機械に期待を裏切られることもあります。いったい何が起きているのでしょう？機械は私たちの意図をくみ取るには愚かすぎるのでしょうか。それとも、賢くなりすぎて自分の手に負えなくなっているのでしょうか？
コンピューター予測の不気味の谷
私たちは、コンピューター予測の 不気味の谷 に入りつつあるように感じます。コンピューターが ほとんど 人間のように見えるために、私たちは信頼し始めます。しかしその後、あまりにも腹立たしい間違いを突然犯し、機械をこれほど全面的に信頼していたことに不安を覚えるのです。
問題は、あまりにも便利だということです。iPhoneの自動修正を信頼し、入力した曖昧な単語をそのまま流れに任せるようになってから、私のタイピング速度は計り知れないほど上がりました。また、尋ねる前から欲しい情報を予測するGoogle Nowのようなサービスは、さらに便利です。
しかし、その代償として、ときには誤りが生じます。妻に間違ったメッセージをうっかり送ってしまったり、職場を「自宅」と提案するようなばかげた候補を電話に出されたりすることもあります（先ほどの妻には大好評でした！）。
では、なぜコンピューターが人間らしくなるのは難しいのでしょうか？
一度だまされても、二度目はないぞ、コンピューター……
コンピューターを人間らしく見せるという課題は、かなり前から私たちの前にあります。アラン・チューリングが第二次世界大戦中に エニグマ暗号を解読する ための計算機を発明して以来、人間のように考え、人間のように振る舞えるコンピューターを作ろうと努めてきました。
その結果、「チューリングテスト」と呼ばれる試験まで考案し、コンピューターが 人をうまくだまして 自分を人間だと思わせられるかどうかを判定するようになりました。
チューリングは、 チューリングテストを提案した論文で、コンピューターに本当に考える能力を持たせる必要はない――そもそも「考える」とは何を意味するのでしょうか――と述べました。そうではなく、認知科学者のスティーブン・ハーナッドの言葉を借りれば、「機械は、私たち（思考する存在）ができることをできるのか」という問いに、肯定的に答えられるコンピューターシミュレーションを作ればよいのです。
「模倣ゲーム」と名付けた試験では、人間の判定者がテキストのみの経路を使い、人間と機械を相手に自然言語で会話します。判定者が機械と人間を見分けられなければ、その機械は試験に合格したとされます。
チューリングの原論文以降、 この試験には 多くの派生形が提案され、視覚や音声といった知覚能力が加えられたほか、ロボット工学を取り入れた試験も作られています。
しかし今のところ、元祖チューリングテストに決定的に合格したコンピューターはありません。合格に近づくたび、不気味の谷に迷い込み、何らかの点で不十分さを露呈して私たちを不安にさせ、そして積み上げたカードの塔がすべて崩れます。
これは意外なことではありません。人間の処理能力のあらゆる複雑さに機械を対処させようとしているのですから、間違いは避けられません。その典型例が、 エリエザー・ユドコウスキーによる戦車の寓話です。
戦車はある、感謝はない
コンピューターに人間らしさを教える難しさを示すため、ユドコウスキーは、米陸軍の研究者たちが、ある情景に戦車があるかどうかをコンピューターに認識させようと訓練する状況を 描いています 。コンピューターに教えるため、研究者たちは戦車の写った画像と写っていない画像を多数見せ、各画像に戦車があるかどうかを伝えます。
テストを通じて、コンピューターは各情景を正しく識別できるようになったと判断した研究者たちは、そのシステムをペンタゴンに引き渡します。ところがペンタゴン側は、自分たちの人員では動かせなかったと言います。
首をひねった末、研究者たちは、戦車の写真は曇りの日に撮影され、戦車のない写真は晴れの日に撮影されていたことを突き止めます。つまり、システムは戦車を見分けるのではなく、曇りか晴れかを見分けるよう学習していたのです！
コンピューターが何をすべきか理解するための十分な文脈を持たないときにスキルを教えようとすると、こうした危険が生じます。
言葉どおりではなく、意図を理解するようコンピューターに教える
さて、携帯電話が職場を「自宅」と親切にも教えてくれたので住所を修正した後、帰宅途中の妻がずいぶん静かなことに気づきました。妻のほうを見て、どうしたのか尋ねると、「何でもない、大丈夫」と言われました。その時点で、私はまずいことになったと分かりました！
でももちろん、妻が言ったのはそれだけではありません。「大丈夫」と言ったのです。文脈のないコンピューターなら、妻の言葉を額面どおりに受け取るでしょう。戦車を扱う場合も、まして不機嫌な配偶者に向き合う場合も、文脈がすべてです。
文脈の判断が簡単な場合もあります。たとえば数年前、Googleはメールに「添付」という言葉が含まれているかを確認し、実際に添付ファイルが追加されているかどうかも調べる仕組みを導入しました。そして、両方が満たされていない場合は 警告します。
しかし、文脈の判断が難しい場合もあります。「Ian」と入力して自動補完に任せた結果、別の「Ian」になってしまうような場合です。メールの内容や、宛先について知っていることなど、さまざまな情報がなければ、GmailはどのIanを選びたかったのか、どうすれば分かるのでしょう？
それでも、コンピューターは上達しています。iPhoneの自動補完は、アポストロフィーなしの「well」を追加しますが、数語先まで入力されてから、アポストロフィー付きの「we’ll」のつもりだったと検知すると、候補を変更します。ですから、間違った「Ian」にメールを送ろうとしていると教えてくれる日も、そう遠くないかもしれません。
しかし今のところは、慎重でいる必要があります。人間が何を意図し、何をするのかという文脈を、コンピューターがすべて理解できるようになるまでは――そして、いつかそうなる保証もありません――私たちはまだ、先回りするコンピューティングの不気味の谷にいるのです。
この記事は、 The Conversationとの協力により掲載されています。掲載は、世界経済フォーラムが見解を支持していることを意味しません。
アジェンダの最新情報を受け取るには、 週刊ニュースレターに登録してください。
著者：マイケル・カウリングは、セントラル・クイーンズランド大学のモバイルコンピューティング＆アプリケーション担当上級講師兼分野リーダーです。
中央ボスニアのゼニツァで撮影されたこの写真イラストでは、男性たちが動画スクリーンを背景にシルエットとなり、Samsung Galaxy S3、Nokia Lumia 820、iPhone 4のスマートフォンを手にポーズを取っている（右から左）。REUTERS/Dado Ruvic。
