歷史表明，網(wǎng)絡(luò)安全威脅隨著新的技術(shù)進(jìn)步而增加。關(guān)系數(shù)據(jù)庫(kù)帶來(lái)了SQL注入攻擊，Web腳本編程語(yǔ)言助長(zhǎng)了跨站點(diǎn)腳本攻擊，物聯(lián)網(wǎng)設(shè)備開(kāi)辟了創(chuàng)建僵尸網(wǎng)絡(luò)的新方法。
而互聯(lián)網(wǎng)打開(kāi)了潘多拉盒子的數(shù)字安全弊病，社交媒體創(chuàng)造了通過(guò)微目標(biāo)內(nèi)容分發(fā)來(lái)操縱人們的新方法，并且更容易收到網(wǎng)絡(luò)釣魚(yú)攻擊的信息，比特幣使得加密Ransomware勒索軟件攻擊成為可能。
近年來(lái)網(wǎng)絡(luò)安全事件不斷曝光，新型攻擊手段層出不窮，安全漏洞和惡意軟件數(shù)量更是不斷增長(zhǎng)。2019年VulnDB和CVE收錄的安全漏洞均超過(guò)了15000條，平均每月高達(dá)1200條以上，2019年CNCERT全年捕獲計(jì)算機(jī)惡意程序樣本數(shù)量超過(guò)6200萬(wàn)個(gè)，日均傳播次數(shù)達(dá)824萬(wàn)余次，涉及計(jì)算機(jī)惡意程序家族66萬(wàn)余個(gè)。
根據(jù)研究集團(tuán)IDC的數(shù)據(jù)，到2025年聯(lián)網(wǎng)設(shè)備的數(shù)量預(yù)計(jì)將增長(zhǎng)到420億臺(tái)；有鑒于此，社會(huì)正在進(jìn)入“超數(shù)據(jù)”時(shí)代。于是，在數(shù)據(jù)算法大行其道，人工智能方興未艾的今天，我們也迎來(lái)了新一輪安全威脅。先想象一個(gè)超現(xiàn)實(shí)場(chǎng)景：未來(lái)的恐怖襲擊是一場(chǎng)不需要炸彈、鈾或者生化武器的襲擊，想要完成一場(chǎng)恐怖襲擊，恐怖分子們只需要一些膠布和一雙健步鞋，通過(guò)把一小塊膠布粘貼到十字路口的交通信號(hào)燈上，恐怖分子就可以讓自動(dòng)駕駛汽車(chē)將紅燈識(shí)別為綠燈，從而造成交通事故。
要了解人工智能的獨(dú)特攻擊，需要先理解人工智能領(lǐng)域的深度學(xué)習(xí)，深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)子集，其中，軟件通過(guò)檢查和比較大量數(shù)據(jù)來(lái)創(chuàng)建自己的邏輯，機(jī)器學(xué)習(xí)已存在很長(zhǎng)時(shí)間，但深度學(xué)習(xí)在過(guò)去幾年才開(kāi)始流行。
人工神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)算法的基礎(chǔ)結(jié)構(gòu)，大致模仿人類(lèi)大腦的物理結(jié)構(gòu)。與傳統(tǒng)的軟件開(kāi)發(fā)方法相反，傳統(tǒng)軟件開(kāi)發(fā)需要程序員編寫(xiě)定義應(yīng)用程序行為的規(guī)則，而神經(jīng)網(wǎng)絡(luò)則通過(guò)閱讀大量示例創(chuàng)建自己的行為規(guī)則。
當(dāng)你為神經(jīng)網(wǎng)絡(luò)提供訓(xùn)練樣例時(shí)，它會(huì)通過(guò)人工神經(jīng)元層運(yùn)行它，然后調(diào)整它們的內(nèi)部參數(shù)，以便能夠?qū)哂邢嗨茖傩缘奈磥?lái)數(shù)據(jù)進(jìn)行分類(lèi)。這對(duì)于手動(dòng)編碼軟件來(lái)說(shuō)是非常困難的，但神經(jīng)網(wǎng)絡(luò)卻非常有用。
但由于神經(jīng)網(wǎng)絡(luò)過(guò)分依賴(lài)數(shù)據(jù)，從而引導(dǎo)了神經(jīng)網(wǎng)絡(luò)的犯錯(cuò)，一些錯(cuò)誤對(duì)人類(lèi)來(lái)說(shuō)似乎是完全不合邏輯甚至是愚蠢的，人工智能也由此變成了人工智障。例如，2018年英國(guó)大都會(huì)警察局用來(lái)檢測(cè)和標(biāo)記虐待兒童圖片的人工智能軟件就錯(cuò)誤地將沙丘圖片標(biāo)記為裸體。
當(dāng)這些錯(cuò)誤伴隨著神經(jīng)網(wǎng)絡(luò)而存在，人工智能算法帶來(lái)的引以為傲的“深度學(xué)習(xí)方式”，就成了敵人得以攻擊和操控它們的途徑。于是，在我們看來(lái)僅僅是被輕微污損的紅燈信號(hào)，對(duì)于人工智能系統(tǒng)而言則可能已經(jīng)變成了綠燈，這也被稱(chēng)為人工智能的對(duì)抗性攻擊，即引導(dǎo)了神經(jīng)網(wǎng)絡(luò)產(chǎn)生非理性錯(cuò)誤的輸入，強(qiáng)調(diào)了深度學(xué)習(xí)和人類(lèi)思維的功能的根本差異。
此外，對(duì)抗性攻擊還可以欺騙GPS誤導(dǎo)船只、誤導(dǎo)自動(dòng)駕駛車(chē)輛、修改人工智能驅(qū)動(dòng)的導(dǎo)彈目標(biāo)等，對(duì)抗攻擊對(duì)人工智能系統(tǒng)在關(guān)鍵領(lǐng)域的應(yīng)用已經(jīng)構(gòu)成了真正的威脅。
