このカラフルな画像は、AIに対する透明マントのよう

CCTV cameras are on display at the stall of the Tiandy Technologies Co. at the Security China 2018 exhibition on public safety and security in Beijing, China October 23, 2018. Picture taken October 23, 2018. REUTERS/Thomas Peter - RC14D41E5C60
Scrambling their sensors.Image: REUTERS/Thomas Peter
このページは、生成AIにより自動翻訳されています。

透明マント

高度な大規模監視システムを支える技術は、近年大きく進歩してきた。信号無視すらできない地域も世界にはある。AI搭載カメラがあなたを見つけて通報するからだ。

Image: ARXIV

しかし、新たな研究によって、AI搭載の監視カメラは混乱に陥るかもしれない。ベルギーのルーヴェン・カトリック大学(KU Leuven)の技術者グループは、自分で印刷して首から下げられるカラフルなパッチを発明した。このパッチを使えば、AIベースの物体認識ソフトウェアを用いる自動監視カメラから姿を見えなくできる。

研究のプレプリントは先週、arXivで公開された。

いわゆる「敵対的パッチ」は、画像そのものが「人物検出の精度を効果的に低下させる」ため、被験者を自動監視カメラやセキュリティシステムから隠すことができた。つまり、パッチによって大量のノイズを加えることで、あなたは「人」や「椅子」のような単一のものとして目立つのではなく、風景の一部になる。

ダサいTシャツ

同じ種類の敵対的パッチは、これだけではない。オランダのアーティスト兼デザイナー、シモーネ・C・ニキーユは、Tシャツのシリーズを制作した。奇妙な顔がたくさん描かれており、Facebookの自動顔認識ソフトウェアを混乱させることができる。

オランダの研究者たちは、このパッチをTシャツにして、着用者を「自動監視カメラから事実上見えなくする」ことも期待している。少なくとも、セキュリティシステムのメーカーがソフトウェアを更新するまでは。

ライセンスと再掲載について
世界経済フォーラムの寄稿文は、クリエイティブ・コモンズ表示-非営利-改変禁止 4.0 国際ライセンスおよび同フォーラムの利用規約に従い、再掲載が可能です。