感情知能は、特に詐欺において、人工知能（AI）による操作を認識し、管理するために不可欠です。
組織は、従業員が感情的な引き金を見抜き、振り返りを実践できるよう訓練し、生成AI（GenAI）の脅威を軽減すべきです。
衝動的な反応よりも慎重な対応を促すことで、意思決定におけるAIの悪用を防ぐ助けになります。
孫から取り乱した電話を受けると想像してみてください。事故を起こしたと話す彼の声は恐怖に満ちています。カナダのレジーナに住む、75歳の高齢者のジェーンに実際に起きたのはそのようなことでした。
切迫感に駆られた彼女は数時間のうちに銀行へ行き、孫の保釈金を用意しました。後になって初めて、AIが生成した詐欺の被害者だったと気づいたのです。
2030年までに、GenAIは世界の企業業務の70%を自動化すると見込まれており、経営者たちは期待と魅力を感じています。しかし、GenAIにはより暗い側面もあります。それは、人々を欺くためにその技術が兵器化されることです。
ジェーンの事例は特殊なものではありません。感情を操る詐欺は、企業にとっても深刻な脅威であり、財務上および評判上のリスクにさらします。
最近のデータによると、10人に1人の経営幹部がすでにディープフェイクの脅威に遭遇しています。ディープフェイクとは、実際の動画や音声素材で学習させたAI技術です。さらに、リーダーの25%はそのリスクについていまだに理解していません。
AIが生成したコンテンツの検出は依然として困難です。デジタルコンテンツを検証するために、まず技術に頼ります。多くのツールはAI生成コンテンツを検出できると謳っていますが、その精度は一貫していません。
特に、画像からAIの透かしを除去するなど、検出を回避できるツールが存在する中では、AI生成コンテンツの自動ラベリングの実現はまだ遠い状況です。
また、インテルのFakeCatcherのような有望なツールがあるものの、大規模な導入はいまだに行われていません。組織がGenAIへの対応に追いつこうとする一方で、人間の懐疑心こそが私たちの最善の防御策であり続けています。
感情知能（自分の感情を認識し、理解し、管理する能力）は、AIによる操作を見抜くうえで有効な資質です。
GenAIには、感情知能によって解決に役立てられる3つの主要なリスクがあります。
GenAIの超現実的な出力は、緊急性や同情心などの感情的な反応を悪用するための詐欺師の道具になります。
GenAIの倫理上の落とし穴は、意図せずに生じることが多く、従業員がAIの推奨に安易に従ったり、自動化バイアスに陥ったりする場合があるためです。その結果、倫理よりも効率を優先することになります。
仕事への不安から倫理的な無関心に至るまで、従業員はGenAIがもたらす感情的な負担のもとで衝動的な判断を下しかねません。
GenAIの脅威が進化するにつれ、感情知能が鍵となります
GenAIの脅威の影響を管理するには、個人が関わる感情を認識し、その影響を振り返り、情報に基づいた共感的な行動をとる必要があります。そのための方法を3つご紹介します。
1. 感情が悪用されている時を、チームが認識できるよう支援する
調査によると、人的行動がデータ侵害の74%を引き起こしていることが示唆されています。その理由は容易に想像できます。
GenAIは、従業員のデータや社内特有のコンテンツを分析するだけで詐欺を個別化できます。脅威の実行者は、あなたのデジタルの足跡を利用して、あなたのディープフェイク動画を作成することさえ可能です。
必要なのは、わずか8分足らずと、ほぼ無視できる程度のコストだけです。こうした背景を踏まえると、GenAIの脅威を軽減するための第一歩は教育です。
従業員は、GenAIが感情を利用して合理的な判断を覆す仕組みを理解する必要があります。あるサイバーセキュリティ企業のシニアマネージャーが、私たちに目を開かされる経験を共有してくれました。
最近、彼はCEOになりすました詐欺師から、緊急の商談に関する正当な詳細が含まれたWhatsAppのメッセージと音声録音を受け取りました。
上位者からの感情的なプレッシャーに、当初は反応してしまいました。しかし、なりすまし犯が標準的な組織内コミュニケーションを把握していたことに気づいたことで、危険信号を見抜くことができました。機密データを非公式な経路でやり取りすべきではないこと、そして確認のフォローアップ電話が必要であることです。
リーダーは、感情知能を高める研修に投資しなければなりません。感情的な引き金を見極めることに焦点を当てたワークショップに加え、創造的思考や、厳格な規則順守を超えた柔軟な戦略に焦点を当てたシミュレーションを組み合わせることで、従業員が操作をより早く見抜けるよう支援できます。
2. 振り返りをチームの基本姿勢にする
個人は、感情に駆られた行動が意図しない結果を招きかねないことも考慮しなければなりません。振り返りによって、感情が無意識のうちに行動に影響を及ぼすことを考えることができます。
道徳的な監督の欠如を示す最近の例として、あるドイツの雑誌が、AIが生成したインタビューを、F1のレジェンドであるミヒャエル・シューマッハ氏の同意を得ずに掲載した事例があります。そのインタビューには、2013年以降の彼の病状や家族生活について語られた偽の発言が含まれていました。
「スクープ」を公表する興奮に駆られた記者たちは、それがシューマッハ氏とその家族に与える感情的な影響を振り返ることができませんでした。その結果、雑誌は大きな評判の失墜を被りました。
職場での批判的な振り返りは、私たちが異なる視点や、自分の選択に影響を与える要因を考慮することを促します。
リーダーは、グループでの振り返りの演習を取り入れることで、これを促進できます。
良い例の一つが「壁のハエ」という手法です。チームメンバーがGenAIの出力を提示し、他のメンバーがその倫理的配慮や偏りについて議論する様子を、黙って観察するというものです。
最後に、議論から得られた洞察を共有します。このような振り返りによって、身近な状況が新たな意味を帯びることがあり、根底にある前提が明らかになり、AIへの依存に対する警鐘にもなります。
3. 反射的な反応を、慎重な対応へと転換する
最後のステップは、認識と振り返りを意図的な行動に移すことです。リスクを検討する場合でも、「AIの影響」が適切な判断を覆してしまうことがあります。従業員に、意思決定プロセスの主導権を取り戻すための境界線を設定する権限を与えましょう。
「続行する前に書面での確認が必要です」といった形で、不安を伝えたり、確認が取れるまで行動を保留したりするよう促すことで、操作的な勢いを鈍らせることができます。
このような対応は、従業員が恐れることなく指示に疑問を投げかけたり懸念を表明したりすることが奨励される、オープンな対話の文化によって可能になります。
最近の例では、フェラーリの幹部が、CEOのベネデット・ヴィーニャ氏からの電話を受けました。当初は、もっともらしく思えました。しかし、会話が機密性の高い内容になるにつれ、この幹部は疑念を抱くようになりました。
リスクを冒したくなかった彼は、本物のCEOしか答えられない質問をしました。すると、電話の相手は突然電話を切り、詐欺であることが明らかになりました。現在、過度の依存、擬人化、虚構と現実の境界の曖昧化を通じて、「感情的な絡み合い」が生じる可能性が高まっているのを目の当たりにしています。
感情に屈することは、人間であれば当然のことです。しかし、感情を調整し、より良い判断を下せるようにすることも可能です。最終的に、自動化された世界は、これらの戦略がもたらす感受性、人間味、そして繊細さから恩恵を受けることができるでしょう。
