生成AIは、労働者がより効率的かつ創造的に働くことを支援する可能性がある一方で、一部の職務では人に取って代わることが予想されています。
AIは、業務効率を高め、市場動向を予測し、新たなイノベーションを生み出す一方で、事業上のリスクももたらします。
生成AIの一般的な用途とリスクについて、オンラインツールのChatGPTに尋ね、その回答を確認することにしました。
生成人工知能（AI）は、私たちの働き方を根本的に変える可能性を秘めています。場合によっては、労働者がより効率的かつ創造的に働くことを支援すると期待されています。しかし、労働者を代替すると予想されるケースもあります。
インドのスタートアップであるDukaanは、AIチャットボットの導入に伴い、サポートスタッフの90%を解雇しました。このツールは顧客からの問い合わせに即座に応答し、人間のスタッフを大幅に上回る速さでした。この措置は厳しいものでしたが、顧客の問題を解決するまでの時間を98%削減し、顧客サポートのコストを85%削減しました。
同じ時期に、Samsungのエンジニアたちは、システム設計を強化する新たなツールを見つけたと考え、ChatGPTを使ってエラーを確認し、独自のコードを最適化しました。しかし、報道で見出しになったように、結果は予想以上のものでした。
このツールはコードを最適化しただけでなく、そのコードが自社システムの学習に使われ、外部に流出する事態となりました。ChatGPTやその他の生成AIシステムは、非常に有用な洞察や提案を提供しますが、管理者はその利用に伴う新たなリスクを理解しておく必要があります。
AIは、業務効率を高め、市場動向を予測し、新たなイノベーションを生み出し、一見関連のないアイデア同士のつながりを見出すなど、さらに多くのことを行います。これらの新しいツールは、設計、評価、生成、管理、保護、開発など、私たちが依頼するほぼあらゆる作業のあり方を変革しています。
しかし同時に、これらのシステムは新たな事業リスクを生み出しています。一般的な用途とリスクについてChatGPTに尋ね、その回答を確認することにしました。
もちろん、ChatGPTのような大規模言語モデルには、「ハルシネーション（幻覚）」を起こしやすい傾向がある点にも留意する必要があり、利用者はこうしたシステムにできること・できないことの限界を理解しておかなければなりません。
生成AIの最も一般的な用途は何ですか？
最も一般的なユースケースは何かを知りたいと考え、ChatGPTに「生成AIの最も一般的な用途は何ですか？」と直接尋ねました。
ChatGPTは、クリエイティブな応用、コンテンツ生成、デザインとプロトタイピング、データ拡張、パーソナライゼーション、レコメンデーション、バーチャルアシスタント、ビデオゲーム開発、科学研究、シミュレーション、トレーニング、ストーリーテリングおよびナラティブ生成について説明し、それぞれの用途について詳細も示しました。
ChatGPTは最後に次のように述べました。「生成AIは、さまざまな分野にわたる幅広い応用範囲を持っています。これらの分類は、生成AIの代表的な用途の一部を示していますが、この分野は急速に進化しており、新たな応用が次々と生まれています。」
このリストが時間の経過とともに変化するのかどうか気になりました。
生成AIの利用にはどのようなリスクがありますか？
一般的な用途を把握したところで、次はリスクについて知りたいと考えました。生成AIには大きな可能性がある一方で、管理すべき深刻な事業リスクや課題も存在します。ChatGPTに「生成AIの利用にはどのようなリスクがありますか？」と尋ねました。
ChatGPTは次のリスクを挙げました。
誤情報および偽コンテンツ
プライバシーとデータ保護
倫理的な影響
偏りと差別
知的財産権の侵害
セキュリティ上の脆弱性
意図しない結果
ChatGPTは、説明を求めることなく、次のように提案しました。「これらのリスクを軽減するには、強固なセキュリティ対策を導入し、倫理的ガイドラインを遵守し、透明性と説明責任のあるAIの実践を確保するとともに、生成AIシステムの影響を継続的に監視・評価することが極めて重要です。また、生成AIのリスクに責任をもって対処するためには、生成AIに関する一般の認識と理解を促進することも不可欠です。」
世界経済フォーラムは、人工知能のためのガードレールをどのように構築していますか？
AI卓越センターは、各分野のリーダーをつなぎ、人工知能の急速な進化と、それが経済や社会に及ぼす影響を理解することを支援しています。AI導入に伴う機会、リスク、トレードオフに関する、情報に基づいた対話を支援しています。
信頼できる場と協働的な取り組みを通じて、同センターはパートナーが共通理解を築き、AIのイノベーションと利用に対する責任あるアプローチについて協力できるよう支援しています。
悪意のある主体は生成AIをどのように利用しますか？
悪意のある主体がこれを利用した場合に生じうる新たな攻撃ベクトルを理解することに、大きな関心がありました。結局のところ、私たちがChatGPTを善い目的で利用できるなら、ハッカーは悪意のある目的で利用できるはずです。そこで、「悪意のある主体は生成AIをどのように利用しますか？」とChatGPTに尋ねました。
ChatGPTは次のように答えました。「残念ながら、他のあらゆる強力な技術と同様に、生成AIも悪意のある主体によって様々な目的で悪用される可能性があります。ChatGPTによると、生成AIが悪意を持って利用されうる方法は次のとおりです。
ディープフェイク
フィッシング攻撃
スパムの生成
フェイクニュースと偽情報
ID盗用
自動化された攻撃
ソーシャルエンジニアリング
私たちにとって注目すべきだったのは、この技術を使って有害なコードを生成したり、暗号を解読したり、マルウェアを設計したり、その他の侵入型の脅威ベクトルを作り出したりすることなど、回答から抜け落ちていた点でした。
生成AIのリスクを低減する方法
管理者は、生成AIに伴うリスクの低減において重要な役割を果たすことができます。ChatGPTは、リスクを低減するためのいくつかの提案を行いました。
ChatGPTによれば、これらの戦略を用いる目的は、リスクを軽減し、技術の倫理的な展開を促進することです。
システムが提案した戦略は次のとおりです。
堅牢なデータガバナンス
倫理的な枠組みとガイドライン
偏りの軽減
敵対的攻撃への防御
透明性と説明可能性
定期的な監視と評価
従業員の教育と意識向上
協力と業界標準
生成AIの活用から得られた知見
ChatGPTは、能力とリスクを十分に理解しており、一般的な用途を概説しました。また、潜在的なリスクも特定し、現在の技術利用における倫理的・セキュリティ上の課題を浮き彫りにしました。
この技術はすべての問い合わせに迅速に応答し、その速さは目覚ましいものでした。ただし、回答は一般的で、詳細にはあまり踏み込んでいませんでした。回答は、より深い探究の出発点となる、有用な概要であると私たちは考えました。例えば、リスクに関する質問に続けて、「偏りがリスクであるとはどういう意味ですか？」といった質問をしてもよかったかもしれません。
生成AIの真の力は、より具体的な問い合わせに対して、より詳細な情報を提供できる点にあります。利用者は追加の質問をしたり、より詳細な説明を求めたりすることができ、AIはより具体的で、詳細かつニュアンスのある情報で応答することができます。
このように質問と回答を繰り返すプロセスによって深みが生まれ、生成AIは学習と発見のための強力なツールとなります。
ChatGPTの回答は示唆に富むものでしたが、それらはシステムの学習に用いられた情報に基づいています。つまり、システムが学習するにつれて、回答は時間とともに変化しうるということです。さらに、学習データが不十分であったり偏っていたりする場合、回答が正確でない可能性もあります。これはChatGPTが挙げたリスクの一つです。
管理者は、生成AIシステムの結果をそのまま鵜呑みにしないよう注意が必要です。代わりに、AIが生成した洞察を人間の専門知識で補い、回答を検証し、最善の行動を導くために、同じ問いを複数の異なる形で投げかけるべきです。
とはいえ全体として、生成AIは管理者のために思慮深い事例や実践的な助言を提供する点で見事な成果を示したと私たちは考えます。使いやすいインターフェース、応答の速さ、そして回答の幅広さは印象的でした。私たちのニーズにおいては、今後も利用していく予定です。
