（圖片來源：CC0 Public Domain）

Skoltech的研究人員證明，導(dǎo)致神經(jīng)網(wǎng)絡(luò)在識(shí)別圖像時(shí)犯錯(cuò)的圖案與自然界中發(fā)現(xiàn)的圖靈圖案相類似。該發(fā)現(xiàn)未來可為當(dāng)前易受攻擊的模式識(shí)別系統(tǒng)設(shè)計(jì)防御措施。該論文以arXiv預(yù)印本的形式在第35屆AAAI人工智能會(huì)議（AAAI-21）上發(fā)表。

盡管深度神經(jīng)網(wǎng)絡(luò)已經(jīng)很智能，且擅長(zhǎng)圖像的識(shí)別與分類，但其仍會(huì)受到所謂的對(duì)抗性干擾，即圖像中微小但奇異的細(xì)節(jié)會(huì)導(dǎo)致神經(jīng)網(wǎng)絡(luò)輸出錯(cuò)誤。部分干擾具有普遍性，他們出現(xiàn)在任何輸出層都會(huì)干擾神經(jīng)網(wǎng)絡(luò)。

（圖片來源：Pixabay）

這些干擾可能會(huì)帶來重大的安全隱患，例如，在2018年，某團(tuán)隊(duì)發(fā)布了一份預(yù)印本，描述了一種可以誤導(dǎo)自動(dòng)駕駛汽車將廣告和logo識(shí)別為路標(biāo)的方法。而神經(jīng)網(wǎng)絡(luò)能夠抵擋這種攻擊的已知防御手段卻能被輕松地繞過，更是加劇了問題的嚴(yán)重性。

計(jì)算和數(shù)據(jù)密集型科學(xué)與工程中心（CDISE）的Skoltech計(jì)算智能實(shí)驗(yàn)室的負(fù)責(zé)人Ivan Oseledets教授及其同事進(jìn)一步探索了一種將這些普遍的對(duì)抗性擾動(dòng)（UAP）與經(jīng)典圖靈圖案聯(lián)系起來的理論。經(jīng)典圖靈圖案由英國杰出數(shù)學(xué)家艾倫·圖靈首次提出，圖靈認(rèn)為這些圖案是自然界中大部分圖案模式，諸如動(dòng)物身上的條紋和斑點(diǎn)，背后的驅(qū)動(dòng)機(jī)制。

這項(xiàng)研究于Oseledets和Valentin Khrulkov在2018年的計(jì)算機(jī)視覺與模式識(shí)別會(huì)議上發(fā)表有關(guān)生成UAP的論文時(shí)意外展開?！耙粋€(gè)陌生人走來，告訴我們這種圖案看起來像圖靈圖案，多年以來，這種相似性一直是一個(gè)謎，直到Skoltech的碩士生Nurislam Tursynbek，Maria Sindeeva和博士生Ilya Vilkoviskiy組建了一支團(tuán)隊(duì)，才得以解決這個(gè)問題。這也是Skoltech高級(jí)研究中心和數(shù)據(jù)密集型科學(xué)與工程中心內(nèi)部合作的一個(gè)完美例子?！監(jiān)seledets說。

對(duì)抗性擾動(dòng)的性質(zhì)和根源對(duì)研究人員來說仍然是個(gè)謎?！斑@個(gè)有趣的屬性在攻防游戲中有著悠久的歷史。對(duì)抗性攻擊難以防御的原因之一是缺乏理論基礎(chǔ)。我們的工作通過用有堅(jiān)實(shí)理論基礎(chǔ)的圖靈圖案闡釋UAPs不為人知的特性，邁出了一步，而這將有助于構(gòu)建未來對(duì)抗性實(shí)例的理論?！監(jiān)seledets指出。

（圖片來源：Pixabay）

先前的研究表明，自然界中的圖靈圖案（例如魚身上的條紋）會(huì)欺騙神經(jīng)網(wǎng)絡(luò)，該團(tuán)隊(duì)以一種簡(jiǎn)單明了的方式展示這種聯(lián)系，以及利用這種聯(lián)系產(chǎn)生新攻擊的方式。對(duì)此，研究人員補(bǔ)充說道：“”最簡(jiǎn)單的方法是將這些圖案添加到圖庫中，并在這些受到干擾的圖象上進(jìn)行訓(xùn)練，就可以使模型更具魯棒性?！?/p>

翻譯：彭琛

審校：董子晨曦

引進(jìn)來源：斯科爾科沃科學(xué)技術(shù)研究院

引進(jìn)鏈接：https://techxplore.com/news/2021-03-team-turing-like-patterns-neural-networks.html