ディープフェイクを阻止するため、研究者たちは人工知能を用いて、撮影から配信までの画像の真正性を証明する実験的な手法を開発した。
写真や動画が本物かどうかを見極めることは、ますます困難になっている。写真や動画を改変する高度な技術は非常に手軽に入手できるようになり、ディープフェイク（写真や動画を加工して、非常に説得力があり、しばしば有名人や政治家が登場する作品）が一般化している。
テストでは、試作された画像処理パイプラインにより、画質を損なうことなく、画像や動画の改ざんを検出できる確率が約45パーセントから90パーセント超に向上した。
ニューヨーク大学タンドン校コンピュータサイエンス・工学学部の研究助教授であるパヴェウ・コルス氏が、このアプローチを開拓した。従来の写真の現像工程をニューラルネットワーク（AIの一形態）に置き換え、画像の撮影時点で、精巧に設計されたアーティファクトを画像に直接組み込む仕組みである。これらのアーティファクトは「デジタル透かし」に似ており、改ざんに対して極めて敏感である。
「従来使われてきた透かし技術とは異なり、このAIが学習したアーティファクトは、写真の改ざんの有無だけでなく、その性質まで明らかにできる」とコルス氏は述べている。
この処理は、カメラ内での埋め込みに最適化されており、オンライン写真共有サービスが適用する画像の歪みにも耐えられる。
このようなシステムをカメラに組み込む利点は明らかである。
「カメラ自体が改ざんに対してより敏感な画像を生成すれば、いかなる調整も高い確率で検出される」と、この技術を詳述した論文をコルス氏と共同執筆した、コンピュータサイエンス・工学学部教授のナシル・メモン氏は述べている。「これらの透かしは後処理の後も残るが、改変に対しては非常にもろい。画像を改変すれば、透かしは壊れる」とメモン氏は述べている。
画像の真正性を判定する他の試みのほとんどは、最終製品のみを検証するものであり、これは極めて困難な取り組みとして知られている。
これに対して、コルス氏とメモン氏は、現代のデジタル画像処理がすでに機械学習に依存していると考えている。スマートフォンで撮影されるすべての写真は、低照度の補正や画像の安定化のために、ほぼ瞬時に処理され、いずれも搭載されたAIのおかげで行われている。
今後数年のうちに、AIによる処理が従来のデジタル画像処理パイプラインを完全に置き換える可能性が高い。この移行が進むにつれ、メモン氏は「次世代デバイスの画像の完全性と認証に関する機能を大きく変える機会がある。鑑識向けに最適化された画像処理パイプラインは、本物と偽物の境界を確信を持って線引きすることが難しい分野において、信頼の一要素を取り戻す助けとなり得る」と述べている。
コルス氏とメモン氏は、このアプローチはテストでは有望さを示しているものの、システムを改良するには追加の作業が必要だと指摘している。本ソリューションはオープンソースであり、次の場所からアクセスできる こちら。
研究者らは、その論文をカリフォルニア州ロングビーチで開催されるコンピュータビジョンとパターン認識に関する国際会議で発表する予定である。
出典: ニューヨーク大学
