據(jù)外媒報(bào)道，加州大學(xué)河濱分校的Amit Roy-Chowdhury教授領(lǐng)導(dǎo)的團(tuán)隊(duì)收到來自美國國防部高級研究計(jì)劃局（DARPA）近100萬美元的撥款，用于研究計(jì)算機(jī)視覺系統(tǒng)對抗性攻擊。該項(xiàng)目是DARPA AI探索項(xiàng)目（AI Explorations）中全機(jī)器視覺干擾（Total Machine Vision Disruption）項(xiàng)目的一部分，研究結(jié)果將在自動駕駛汽車、監(jiān)控和國防領(lǐng)域得到廣泛應(yīng)用。團(tuán)隊(duì)成員包括加州大學(xué)河濱分校的研究人員Srikanth Krishnamurthy、Chengyu Song、Salman Asif，以及施樂（Xerox）旗下研發(fā)公司PARC。

（圖片來源：加州大學(xué)河濱分校）

當(dāng)人們看到某個(gè)物體時(shí)，也會注意到物體周圍的整個(gè)場景。這種更廣泛的視覺環(huán)境使人們更容易發(fā)現(xiàn)和解釋不規(guī)則的情況。人類駕駛員注意到貼在停車標(biāo)志上的貼紙，知道貼紙不會改變標(biāo)志的含義，還是會停車。然而，使用深度神經(jīng)網(wǎng)絡(luò)進(jìn)行物體識別的自動駕駛汽車可能會因?yàn)橘N紙而無法識別停車標(biāo)志，并且很難順利通過交叉路口。

無論訓(xùn)練有素的計(jì)算機(jī)算法在識別目標(biāo)變化方面有多好，圖像干擾總是會增加計(jì)算機(jī)做出錯誤決策或建議的可能性。深度神經(jīng)網(wǎng)絡(luò)對圖像處理的脆弱性使其成為黑客的攻擊目標(biāo)，這些黑客意圖干擾由視覺AI支持的決策和行動。

Roy-Chowdhury表示，“如果有物體出現(xiàn)在不合適的位置，就會觸發(fā)防御機(jī)制。即使圖像的一部分受到干擾，如貼在停車標(biāo)志上的貼紙，我們也能做到這一點(diǎn)?！痹俦热?，當(dāng)人們看到一匹馬或一艘船時(shí)，也會想要看到他們周圍的某些物體，比如谷倉或湖。如果這些圖像之一受到干擾，如馬站在汽車經(jīng)銷店里，或船漂浮在云端，人們就能識別出錯誤。Roy-Chowdhury的團(tuán)隊(duì)希望將此種能力用于計(jì)算機(jī)。

要做到這一點(diǎn)，研究人員首先需要確定可能的攻擊類型。DARPA的項(xiàng)目將專注于利用視覺環(huán)境信息產(chǎn)生對抗性攻擊，從而更好地理解機(jī)器視覺系統(tǒng)的弱點(diǎn)。Roy-Chowdhury表示，“我們將對圖像系統(tǒng)進(jìn)行干擾，使計(jì)算機(jī)給出錯誤的答案，可能有助于設(shè)計(jì)針對攻擊的防御措施。”

返回第一電動網(wǎng)首頁 >