全球的數(shù)字化時代才剛開始，黑客的攻擊卻早已深入人心，尤其是近年來的黑客襲擊事件給互聯(lián)網(wǎng)的網(wǎng)民們都留下深刻陰影。
2007年，熊貓燒香病毒肆虐中國網(wǎng)絡(luò)；2008年，Conficker蠕蟲病毒感染數(shù)千萬臺電腦；2010年，百度遭史上最嚴(yán)重的黑客襲擊；2014年，索尼影業(yè)遭襲導(dǎo)致董事長下臺；2015年，美國政府遭襲，雇員資料外泄。
當(dāng)人工智能技術(shù)的研究風(fēng)聲迭起時，也就是網(wǎng)絡(luò)世界戰(zhàn)爭的白熱化階段。對于黑客利用人工智能技術(shù)進(jìn)行攻擊的可能性預(yù)測，或許會幫助我們在網(wǎng)絡(luò)世界的攻守里達(dá)到更好效果。
目前，網(wǎng)絡(luò)威脅的大部分惡意軟件都是通過人工方式生成的，即黑客會編寫腳本來生成電腦病毒和特洛伊木馬，并利用Rootkit、密碼抓取和其他工具協(xié)助分發(fā)和執(zhí)行。
那么，機(jī)器學(xué)習(xí)如何幫助創(chuàng)建惡意軟件？機(jī)器學(xué)習(xí)方法是用作檢測惡意可執(zhí)行文件的有效工具，利用從惡意軟件樣本中檢索到的數(shù)據(jù)（如標(biāo)題字段、指令序列甚至原始字節(jié)）進(jìn)行學(xué)習(xí)可以建立區(qū)分良性和惡意軟件的模型。然而分析安全情報(bào)能夠發(fā)現(xiàn)，機(jī)器學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)存在被躲避攻擊（也稱為對抗樣本）所迷惑的可能。
2017年，第一個公開使用機(jī)器學(xué)習(xí)創(chuàng)建惡意軟件的例子在論文Generating Adversarial Malware Examples for Black-Box Attacks Based on GAN中被提出。惡意軟件作者通常無法訪問到惡意軟件檢測系統(tǒng)所使用機(jī)器學(xué)習(xí)模型的詳細(xì)結(jié)構(gòu)和參數(shù)，因此他們只能執(zhí)行黑盒攻擊。
論文揭示了如何通過構(gòu)建生成對抗網(wǎng)絡(luò)（generative adversarial network GAN）算法來生成對抗惡意軟件樣本，這些樣本能夠繞過基于機(jī)器學(xué)習(xí)的黑盒檢測系統(tǒng)。
如果網(wǎng)絡(luò)安全企業(yè)的人工智能可以學(xué)習(xí)識別潛在的惡意軟件，那么黑客就能夠通過觀察學(xué)習(xí)防惡意軟件做出決策，使用該知識來開發(fā)“最小程度被檢測出”的惡意軟件。
此外，不論是人工智能的對抗性攻擊還是黑客基于深度學(xué)習(xí)的惡意軟件逃逸，都屬于人工智能的輸入型攻擊（Input Attacks），即針對輸入人工智能系統(tǒng)的信息進(jìn)行操縱，從而改變該系統(tǒng)的輸出。
從本質(zhì)上看，所有的人工智能系統(tǒng)都只是一臺機(jī)器，包含輸入、計(jì)算、輸出三環(huán)節(jié)。攻擊者通過操縱輸入，就可以影響系統(tǒng)的輸出。
而數(shù)據(jù)投毒便屬于典型的污染型攻擊（Poisoning Attacks），即在人工智能系統(tǒng)的創(chuàng)建過程中偷偷做手腳，從而使該系統(tǒng)按照攻擊者預(yù)設(shè)的方式發(fā)生故障。
這是因?yàn)?，人工智能通過深度學(xué)習(xí)“學(xué)會”如何處理一項(xiàng)任務(wù)的唯一根據(jù)就是數(shù)據(jù)，因此污染這些數(shù)據(jù)，通過在訓(xùn)練數(shù)據(jù)里加入偽裝數(shù)據(jù)、惡意樣本等破壞數(shù)據(jù)的完整性，進(jìn)而導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差，就可以污染人工智能系統(tǒng)。
值得警惕的是，隨著人工智能與實(shí)體經(jīng)濟(jì)深度融合，醫(yī)療、交通、金融等行業(yè)對于數(shù)據(jù)集建設(shè)的迫切需求，使得在訓(xùn)練樣本環(huán)節(jié)發(fā)動網(wǎng)絡(luò)攻擊成為最直接有效的方法，潛在危害巨大。比如在軍事領(lǐng)域，通過信息偽裝的方式可誘導(dǎo)自主性武器啟動或攻擊，帶來毀滅性風(fēng)險。
