近日，西北大學(xué)和麻省理工學(xué)院的沃森人工智能實驗室(MIT-IBM Watson AI Lab)開發(fā)出了一種印有特殊圖案的T恤，只要穿上就能躲過AI系統(tǒng)的監(jiān)控，讓一個大活人在監(jiān)控鏡頭前“消失”。
研究人員表明，他們設(shè)計的圖像可以將整個人隱藏在AI驅(qū)動的計算機視覺系統(tǒng)中。他們在一種流行的開源對象識別系統(tǒng)YoLo(v2)上進(jìn)行了演示。
據(jù)悉，研究人員了使用一種稱為對抗性機器學(xué)習(xí)的方法來欺騙AI，因為計算機視覺識別系統(tǒng)一般依賴大量數(shù)據(jù)訓(xùn)練在提高識別的準(zhǔn)確率，通過同樣的方法也能找出能夠欺騙系統(tǒng)的圖案。
但這種方式下，只要圖案的角度和形狀發(fā)生變化，就會輕易被識破。
他們采用了一種叫做薄板樣條線(TPS)的數(shù)據(jù)插值和平滑技術(shù)，這項技術(shù)讓柔性物體也能模擬剛性物體的對抗性學(xué)習(xí)，從而欺騙AI。
研究人員分別在現(xiàn)實和虛擬環(huán)境中測試這種T恤 ，準(zhǔn)確率分別能達(dá)63%和79%!
研究人員Van Ranst表示，將這種方法適應(yīng)現(xiàn)成的視頻監(jiān)控系統(tǒng)應(yīng)該并不難。“目前，我們還需要知道使用哪個檢測器。我們將來要做的是生成一個可同時在多個檢測器上運行的補丁。”
在當(dāng)下，AI攝像監(jiān)控和生物識別仍存在諸多漏洞，除了提高這些技術(shù)本身以外，不少科學(xué)家們也在反向研究如何完美躲過這些技術(shù)的“追蹤”。
【來源：前瞻網(wǎng)】
上一篇：
