新たな研究により、AIが作成した偽の顔は、実在の人物の画像よりも信頼できるとみなされることが分かった。
研究者らは、ディープフェイクを防ぐための安全対策を求めている。
世界経済フォーラムは、AIが「新たで複雑な倫理的問題」を提起していると述べている。
新たな研究により、人工知能（AI）が作成した偽の顔は、実在の人物の画像よりも信頼できるとみなされることが分かった。
この結果は、必要性を浮き彫りにしている。ディープフェイクを防ぐための安全対策。これらはすでにリベンジポルノ、詐欺、プロパガンダに利用されていると、報告書の研究者らは述べている。
ディープフェイクへの懸念
この研究は、英国ランカスター大学のソフィー・ナイチンゲール博士と、米国カリフォルニア大学バークレー校のハニー・ファリド教授が実施したもので、参加者に800の顔を実在のものか偽物かを識別させ、その信頼性を評価させた。
3つの実験を経て、研究者らはAIが作成した合成顔の信頼性評価の平均が、実在の顔の平均評価より7.7％高いことを確認した。これは「統計的に有意」であると研究者らは付け加えている。最も信頼できると評価された顔の3つは、 偽の顔であったであり、最も信頼できないと評価された4つの顔は実在のものであったと、雑誌ニューサイエンティストは伝えている。
AIが好まれる顔を学習する
偽の顔は、 敵対的生成ネットワーク（GAN）を用いて作成された。GANは、試行錯誤を通じて現実的な顔を作成することを学習するAIプログラムである。
この研究は「AIが合成した顔は実在の顔と区別がつかず、より信頼できる」と題され、米国科学アカデミー紀要（PNAS）に掲載された。
研究者らは、安全対策の導入を求めており、その中には、一般市民をディープフェイクから守るため、画像に「堅牢なウォーターマーク」を組み込むことも含まれうるとしている。
合成画像の作成と配布に関するガイドラインにも、「研究者、出版社、メディア配信者のための倫理ガイドライン」を組み込むべきだと、研究者らは述べている。
倫理的なAIツール
AIを責任を持って利用することは、AIガバナンス分野が直面する「差し迫った課題」であると、世界経済フォーラムは述べている。
同フォーラムは報告書「AIガバナンスの歩み：発展と機会」において、AIがイノベーション、環境の持続可能性、COVID-19との闘いといった分野の進展に不可欠であったと述べている。しかし、この技術は「新たで複雑な倫理的問題によって我々に挑戦」しており、「統治する能力を追い越して進んでいる」とも指摘している。
この報告書は、AIの構築と利用に関する、さまざまな実践、ツール、システムを取り上げている。
これには、ラベル表示や認証制度、リスクを低減するためのアルゴリズムの外部監査、AIアプリケーションの規制、そして AIガバナンスの枠組みを策定するための産業界、政府、学術界、市民社会の一層の連携が含まれる。
