網(wǎng)絡(luò)安全領(lǐng)域，人與機(jī)器的配合能夠干成各自單獨(dú)完成不了的事，結(jié)成能夠維持秩序?qū)箰簞?shì)力的互補(bǔ)式團(tuán)隊(duì)。
二十世紀(jì)特別癡迷人工智能(AI)概念。從熱心助人的類人仿真機(jī)器人，如《星球大戰(zhàn)》里蠢萌蠢萌的C-3PO；到鐵板一塊冷酷邪惡的智慧機(jī)器，如《2001太空漫游》里的HAL 9000超級(jí)電腦和《黑客帝國(guó)》里的主機(jī)；AI都是科幻電影或小說(shuō)里的標(biāo)準(zhǔn)配置。如今，隨著我們真切進(jìn)入AI時(shí)代，人類AI愿景遠(yuǎn)比預(yù)言更夢(mèng)幻的事實(shí)愈加明顯。但我們確實(shí)預(yù)言對(duì)了一件事：AI徹底改變世界的潛力——無(wú)論善惡。
人工智能幾乎徹底變革了采納這種技術(shù)的所有行業(yè)，包括醫(yī)療、證券市場(chǎng)，以及加速采用AI的網(wǎng)絡(luò)安全領(lǐng)域——既用于補(bǔ)充人力也用于強(qiáng)化防御。最近幾年機(jī)器學(xué)習(xí)的發(fā)展，使得過(guò)去人工完成的繁瑣工作現(xiàn)在可以自動(dòng)化完成，比如梳理看起來(lái)無(wú)窮無(wú)盡的數(shù)據(jù)以找尋威脅指標(biāo)和異?！，F(xiàn)代AI具備“理解”威脅、風(fēng)險(xiǎn)和關(guān)系的能力，因而能夠過(guò)濾壓垮網(wǎng)絡(luò)安全部門的大量噪音，只濾出最可能有效的指標(biāo)。
這一優(yōu)勢(shì)包含兩個(gè)方面：威脅再也不能因安全人員疲勞或職業(yè)倦怠而乘隙而入，網(wǎng)絡(luò)安全人員能夠騰出手來(lái)從事更重要的任務(wù)，比如修復(fù)。AI還可以提升全網(wǎng)可見(jiàn)性。可以通過(guò)模擬點(diǎn)擊電子郵件鏈接和分析措辭及語(yǔ)法來(lái)篩查網(wǎng)絡(luò)釣魚?？梢员O(jiān)視網(wǎng)絡(luò)通信，查找惡意軟件安裝嘗試、命令與控制(C2)通信、可疑數(shù)據(jù)包等。而且，AI還幫助轉(zhuǎn)型病毒檢測(cè)，從完全基于特征碼的系統(tǒng)——受制于反應(yīng)時(shí)間、效率和存儲(chǔ)要求等，轉(zhuǎn)入能檢測(cè)無(wú)特征碼惡意軟件、零日漏洞利用和位置威脅的行為分析時(shí)代。
但盡管AI潛力無(wú)窮，網(wǎng)絡(luò)安全部門里的人類員工完全被AI替代的想法，仍舊好像用大白代替全國(guó)各位醫(yī)生一樣遙不可及。雖說(shuō)AI的終極目標(biāo)是模擬問(wèn)題解決、學(xué)習(xí)、規(guī)劃、直覺(jué)等人類身心功能，但總有些事是AI不能處理（目前還不能）的，還有些事是AI不應(yīng)該處理的。AI不能處理的事務(wù)包括創(chuàng)造，這玩意兒可不是能教出來(lái)或者編程編出的，總需要人類指導(dǎo)。期待AI可靠有效地確定攻擊上下文也是個(gè)不可逾越的難題，至少短期內(nèi)是如此，另外也不用指望AI能創(chuàng)建安全問(wèn)題的新解決方案。換句話說(shuō)，盡管AI肯定能增加傳統(tǒng)人工處理任務(wù)的速度和準(zhǔn)確度，但卻很難擴(kuò)展此類任務(wù)的范圍。
還有些任務(wù)是人類當(dāng)前擅長(zhǎng)而AI未來(lái)有可能超越的。但這些任務(wù)是人類將總是占據(jù)巨大優(yōu)勢(shì)，或者不應(yīng)完全信任AI處理的那種。這類任務(wù)包括合規(guī)、獨(dú)立形成策略、分析風(fēng)險(xiǎn)或響應(yīng)網(wǎng)絡(luò)攻擊。這些領(lǐng)域總是需要人類充當(dāng)AI系統(tǒng)決策核查員，檢查其工作，幫助指導(dǎo)其訓(xùn)練。
SOC永遠(yuǎn)要留有人類的位置還有另外一個(gè)原因：為了領(lǐng)先已開始運(yùn)用AI作惡的網(wǎng)絡(luò)罪犯一步。不幸的是，任何可以用來(lái)幫助人類的AI技術(shù)同樣可以用來(lái)傷害人類，而且隨著時(shí)間推移，AI對(duì)網(wǎng)絡(luò)罪犯的幫助會(huì)像對(duì)合法企業(yè)的幫助一樣大。
暴力破解攻擊，曾經(jīng)隨著密碼復(fù)雜度要求的提高而式微，但以AI的形式獲得極大推動(dòng)。該技術(shù)結(jié)合了之前泄露的密碼數(shù)據(jù)庫(kù)和公開可用的社交媒體信息，如今不再試圖從111111之類開始嘗試每個(gè)可能的密碼組合，而是只做經(jīng)過(guò)訓(xùn)練的猜解，成功率高得驚人。
類似的，AI可用于魚叉式網(wǎng)絡(luò)釣魚攻擊。當(dāng)前，魚叉式網(wǎng)絡(luò)釣魚必須人工進(jìn)行，限制了其實(shí)用性。但結(jié)合數(shù)據(jù)收集和機(jī)器學(xué)習(xí)技術(shù)，社交媒體和其他公開信息源就能被用來(lái)“教導(dǎo)”AI撰寫出目標(biāo)信任的文風(fēng)，讓目標(biāo)更可能執(zhí)行攻擊者染指敏感數(shù)據(jù)或安裝惡意軟件所需的動(dòng)作。由于魚叉式網(wǎng)絡(luò)釣魚所需工作量大幅下降，同時(shí)期收益潛力急劇上升，我們無(wú)疑會(huì)看到更多此類攻擊。
但或許最大的威脅是黑客將用他們的AI策反網(wǎng)絡(luò)安全團(tuán)隊(duì)的AI。達(dá)成此事的一條路徑是挫敗現(xiàn)有機(jī)器學(xué)習(xí)模型，也就是所謂的“對(duì)抗性機(jī)器學(xué)習(xí)”。機(jī)器學(xué)習(xí)中的“學(xué)習(xí)”部分，指的是系統(tǒng)觀察數(shù)據(jù)模式和提出數(shù)據(jù)含義假設(shè)的能力。但通過(guò)往系統(tǒng)中注入錯(cuò)誤數(shù)據(jù)，算法賴以決策的模式就會(huì)被破壞——讓目標(biāo)AI以為惡意過(guò)程不過(guò)是無(wú)意義的日常事件而加以放過(guò)。惡意黑客置入AI系統(tǒng)的一些過(guò)程和信號(hào)對(duì)系統(tǒng)本身毫無(wú)影響，他們只是重新訓(xùn)練該AI把自身行為視作正常的而已。一旦訓(xùn)練完畢，這些過(guò)程就可用于執(zhí)行幾乎不會(huì)被逮到的攻擊。
鑒于AI可能為害的各種方式，有些人可能干脆就想完全放棄AI了。但無(wú)論你個(gè)人是怎么想的，AI之路已經(jīng)無(wú)法回頭。隨著網(wǎng)絡(luò)罪犯開發(fā)出愈加復(fù)雜和危險(xiǎn)的AI利用方式，僅靠安全人員自身已經(jīng)不可能跟上他們的腳步。唯一的解決方案，就是在AI利用上更加精進(jìn)，在罪犯之前開發(fā)和部署新的AI進(jìn)展。同時(shí)避免太快自滿。畢竟，壞人不會(huì)閑著這話在網(wǎng)絡(luò)攻擊者身上體現(xiàn)的更加明顯，今天看起來(lái)最智能的進(jìn)步也擋不住明天的威脅。
網(wǎng)絡(luò)安全的未來(lái)將充滿我們今天無(wú)法想象的威脅。但小心警惕加努力工作，人與機(jī)器的結(jié)合能做到二者單獨(dú)辦不到的事——結(jié)成互為補(bǔ)充的團(tuán)隊(duì)，對(duì)抗邪惡勢(shì)力，維護(hù)網(wǎng)絡(luò)世界秩序。
畢竟，我們的AI可能與電影里的那些沒(méi)什么不同。
