人工知能（ によって動く機械が、 いつか人間に取って代わるというAIあらゆる不穏な警告が飛び交うなか、そもそも機械をどのようにプログラムするのかについて、もっと考える必要がある。
この技術は、少なくとも今のところ、こうした懸念を真剣に論じるにはまだ遠い段階かもしれない。しかし、AIをめぐる不信の多くは、機械が「考えている」とはどういう意味なのかについての誤解から生じている。
AI研究が現在目指していることの一つは、人間の思考を可能な限り模倣できる機械、アルゴリズム、入出力プロセス、または数学関数を設計することだ。
人間の思考で何が起きているのかを、より深く理解したい。とりわけ、「直感」や「腹の底で感じること」に頼らなければ正当化できない判断、つまり経験から学んだ後にしか下せない判断について知りたい。
まず、職歴、技能、身だしなみの点で他の応募者と比較したうえで、あなたを採用する人間を考えてみよう。この人間の管理職は、採用する候補者を特定する判断を下せる。
人間の管理職とまったく同じ入力を受け取り、その出力を再現できるコンピュータープログラムを設計できれば、本人が「経験によるものだ」としか言えず、誰を採用するかという判断を説明できなくても、その管理職が実際に何を重視しているのかを推論できる。
この種の研究は現在 行われており 、金融コンサルタントのリスク回避やリスク選好の行動を理解するために応用されている。また、 医療診断の分野でも研究が進められている。
人間を模倣するこうしたシステムは、まだ判断を下すよう求められてはいないが、人間の判断を導き、人為的なミスや一貫性の欠如を減らすために、確実に使われている。
ファジィ集合とAI
有望な研究分野の一つは、 ファジィ集合の枠組みを活用することだ。ファジィ集合とファジィ論理は、 Lotfi Zadeh によって1965年に形式化され、特定の主題に関する私たちの知識を数学的に表現するために利用できる。
日常語で誰かを「曖昧な論理」や「曖昧な思考」だと非難するとき、私たちが意味しているのは、その人の考えが矛盾していたり、偏っていたり、あるいは単に十分練られていなかったりするということだ。
しかし数学や論理学では、「ファジィ」は、確かな単純明快な基礎を持つ研究分野の名称である。
ファジィ集合の出発点はこうだ。コンピューターで従来処理できた多くの意思決定プロセスでは、真理値は二値である。つまり、ある事柄は真か偽かのどちらかであり、あらゆる行動はその答えに基づく（コンピューターでは通常、0か1で符号化される）。
たとえば、先ほどの人間の管理職は、人事部に次のように指示するかもしれない。
応募者が25歳から30歳である場合
かつ、哲学または文学の学位を持っている場合
面接を手配する。
応募者が25歳から30歳の間に該当するか否か、またその資格を持っているか否かは、それぞれ真偽で判定できるため、こうした情報はすべて、真偽に基づく採用アルゴリズムに書き込める。
しかし、人間の管理職が要件をもう少し曖昧に表現したらどうだろう。たとえば、次のように言う。
応募者の背が高く
魅力的である場合
提示する給与を高くする。
人事部がこうした要望を採用アルゴリズムに組み込む際の問題は、主観的な概念がいくつも含まれていることだ。身長は客観的に測れるものだとしても、どれだけの高さから「背が高い」と呼べるのだろうか。
魅力もまた主観的であり、判断する人間の管理職が一人だけだとしても変わらない。
曖昧な領域とファジィ集合
ファジィ集合の研究では、こうした特性をファジィであると言う。つまり、あるものが集合に属するか否か、ある命題が真か偽かは、与えられた値の範囲にわたって0から1へ段階的に変化しうるという意味だ。
ファジィに基づくソフトウェアの応用で最も難しいことの一つは、観測された入力（人の身長）をファジィな所属度にどう変換するか、そしてそのファジィ集合においてANDやORなどの論理演算子を使う規則をどう定めるかである。
今日に至るまで、そしておそらく今後何年、何十年にわたっても、この変換の規則は人間が定義する。たとえば、人の身長を指定するために、190cmの人は背が高い（真理値1）、140cmの人は背が高くない（または、背が高いという真理値が0）とする関数を設計できる。
そこから身長が5cm増すごとに、真理値が0.1ずつ上がるようにする。したがって、あらゆるAIシステムの重要な特徴は、私たち普通の人間が、値や言葉の定義に関する規則を今もすべて決めていることだ。さらに重要なのは、AIシステムが実行できる行動、すなわち「THEN」の文をすべて私たちが定義していることだ。
人間とロボットの共生
「 言葉によるコンピューティング」と呼ばれる分野は、この考えをさらに進め、人間の利用者とAIコンピューターのアルゴリズムとのシームレスなコミュニケーションを目指している。
現時点では、「背が高い」「魅力的」「良い」「速い」といった主観的な言葉を、数学的に表現する必要がある。次に、そうした意見や命令を組み合わせる関数を設計し、さらにその結果を「はい、彼は背が高い」のような出力に変換するための数学的定義を考えなければならない。
言葉によるコンピューティングの考え方を構想するにあたり、研究者たちは、「背が高い」という言葉を使うときの脳活動や測定値など、こうした言葉の基礎となる表現に、よりアクセスできるようになる時代を思い描いている。
これは驚くべき飛躍となるだろう。ただし主に、そうした現象を観測するために必要な技術においてのことだ（脳内のニューロンの数は、シナプスの数は言うまでもなく、宇宙にある銀河の数に近い）。
それでも、人間の行動を模倣し、私たちとのコミュニケーションまで再現できる機械やアルゴリズムの設計には、まだ長い道のりがある。
結局のところ、私たちが設計するシステムは、その動作を律する規則とプログラムに従って、期待どおりに振る舞う。
不合理な恐怖なのか？
ここで、将来AI搭載機械が私たちに牙をむくという大きな恐怖に戻ろう。
本当の危険は、真の人工知能が誕生すること、つまり、映画『2001年宇宙の旅』のHAL 9000や、『ターミネーター』シリーズのスカイネットのように、自我に目覚めるプログラムを何とか作り出してしまうことではない。
本当の危険は、アルゴリズムの符号化で誤りを犯すこと、あるいは、機械が環境とどのように相互作用するかを十分に考慮せず、機械を何らかの状況に置くことだ。
しかし、こうしたリスクは、人間が作るあらゆるシステムや物に伴うものと同じである。
たとえば、武器の発射を決める判断を（誘導システムだけでなく）AIアルゴリズムに委ねるとしたら、私たちは恐れるべきものを抱えることになるかもしれない。
それは、こうした知能兵器がいつか私たちに牙をむくという恐怖ではない。むしろ、主観的な選択肢をいくつも与えたうえで、誤った判断を下して私たちに牙をむくよう、私たちがプログラムしてしまうことへの恐怖だ。
「考える」機械の未来や、社会において機械が果たす役割には不確実な点があるとしても、確かなことが一つある。機械に何ができるかについて、最終判断を下すのは私たちだ。
人工知能をプログラミングする際、私たちには、それが本当に望むとおりに動作するよう確かめる責任がある（超高層ビルを設計し、機械を製造し、医薬品を開発し、民法を起草するときと同じように）。
この記事は The Conversationとの協力により公開されています。 元の記事を読む。
本記事の掲載は、世界経済フォーラムが見解を支持していることを意味するものではありません。
Agendaの最新情報を受け取るには、 週刊ニュースレターに登録してください。
著者：Simon Jamesは、Deakin Universityの数学講師。
画像：シンガポールで開催されたロボカップ大会で、競技参加者の一人がカメラに向けてサッカーをするロボットを掲げている。REUTERS/Vivek Prakash。
