本文來(lái)自微信公眾號(hào)“安全牛”。
隨著ChatGPT等智能化工具大行其道，企業(yè)是時(shí)候開(kāi)始了解如何加強(qiáng)防范基于人工智能（AI）的網(wǎng)絡(luò)攻擊了。AI模型的自然語(yǔ)言生成功能天生適合于網(wǎng)絡(luò)釣魚(yú)攻擊，它能夠幫助攻擊者大規(guī)模生成欺騙性郵件文本及其他內(nèi)容。為了應(yīng)對(duì)這種日益嚴(yán)峻的威脅，企業(yè)應(yīng)該在加強(qiáng)網(wǎng)絡(luò)釣魚(yú)防護(hù)時(shí)參考以下7條準(zhǔn)則。
1.全面認(rèn)知威脅
目前，AI在網(wǎng)絡(luò)攻擊方面最重要的應(yīng)用就是欺詐性?xún)?nèi)容生成，凡是能使用ChatGPT的人都可以生成格式規(guī)范、以假亂真的文本。對(duì)于企業(yè)的安全防護(hù)者，需要充分認(rèn)識(shí)到，AI技術(shù)的這種本領(lǐng)只會(huì)變得更加強(qiáng)大。在LLM（自然語(yǔ)言處理模型）工具的幫助下，網(wǎng)絡(luò)釣魚(yú)內(nèi)容不僅會(huì)變得更加真實(shí)，還會(huì)更有針對(duì)性，能夠加入時(shí)間、地點(diǎn)和事件的具體信息。員工們?cè)僖膊荒芤揽恐暗慕?jīng)驗(yàn)來(lái)判斷電子郵件是否惡意。圖像、語(yǔ)音甚至視頻都可以通過(guò)內(nèi)容生成技術(shù)來(lái)偽造。因此，需要讓企業(yè)中的每個(gè)人都充分了解釣魚(yú)活動(dòng)的威脅發(fā)展態(tài)勢(shì)，不斷強(qiáng)調(diào)對(duì)任何突如其來(lái)的郵件都保持高度的警惕性。
2.開(kāi)展網(wǎng)絡(luò)釣魚(yú)模擬
要企業(yè)應(yīng)對(duì)網(wǎng)絡(luò)釣魚(yú)攻擊的實(shí)戰(zhàn)能力，唯一的方法就是進(jìn)行測(cè)試。模擬使用AI生成的內(nèi)容進(jìn)行網(wǎng)絡(luò)釣魚(yú)活動(dòng)是對(duì)抗威脅的重要部分。模擬釣魚(yú)活動(dòng)應(yīng)從設(shè)定具體的目標(biāo)入手，并且利用可以度量的指標(biāo)來(lái)指導(dǎo)測(cè)試。模擬網(wǎng)絡(luò)釣魚(yú)活動(dòng)還有助于摸清AI工具在生成有效欺騙內(nèi)容方面實(shí)際水平。這將有助于安全人員準(zhǔn)確評(píng)估實(shí)施相關(guān)措施的必要性。
3.用AI對(duì)付AI
用AI來(lái)對(duì)付AI是未來(lái)網(wǎng)絡(luò)安全技術(shù)發(fā)展的重要部分。網(wǎng)絡(luò)釣魚(yú)攻擊檢測(cè)將是企業(yè)整體網(wǎng)絡(luò)和基礎(chǔ)設(shè)施安全戰(zhàn)略的關(guān)鍵部分，當(dāng)AI輔助的網(wǎng)絡(luò)基礎(chǔ)設(shè)施偵察和攻擊檢測(cè)能力相結(jié)合時(shí)，對(duì)網(wǎng)絡(luò)釣魚(yú)攻擊的檢測(cè)效率將會(huì)大大提升。許多頭部安全公司已經(jīng)開(kāi)始把這類(lèi)自動(dòng)化安全工具整合到產(chǎn)品方案中?；贏I的異常行為檢測(cè)也將是機(jī)器學(xué)習(xí)研究領(lǐng)域一個(gè)重要方面，這項(xiàng)研究將很快被引入到企業(yè)實(shí)際應(yīng)用中，作為對(duì)付AI網(wǎng)絡(luò)釣魚(yú)的工具。
4.采取適當(dāng)?shù)男袆?dòng)
新一代的電子郵件基礎(chǔ)設(shè)施都會(huì)提供內(nèi)置的基礎(chǔ)性安全能力，這在很大程度上保證企業(yè)遠(yuǎn)離郵件攻擊威脅。但安全人員應(yīng)該在采取行動(dòng)時(shí)，清除意識(shí)到是針對(duì)什么而采取行動(dòng)。
如果用戶(hù)在收到網(wǎng)絡(luò)釣魚(yú)郵件后采取了進(jìn)一步的操作，這對(duì)不法分子來(lái)說(shuō)無(wú)異于重大勝利：這樣攻擊才能得以繼續(xù)進(jìn)行。安全專(zhuān)業(yè)人員應(yīng)該培訓(xùn)自己、員工以及任何人，學(xué)會(huì)在郵件提示輸入信息或運(yùn)行不熟悉的應(yīng)用程序時(shí)保持警惕。此外，為了有效防止深度造假攻擊，企業(yè)還應(yīng)該在另一條遠(yuǎn)離網(wǎng)絡(luò)釣魚(yú)的渠道中驗(yàn)證涉及隱私和財(cái)務(wù)數(shù)據(jù)的重要通信內(nèi)容。
5.建立高效的報(bào)告機(jī)制
在處理基于AI的網(wǎng)絡(luò)釣魚(yú)攻擊時(shí)，能否第一時(shí)間向安全人員發(fā)出攻擊警報(bào)至關(guān)重要。因?yàn)锳I輔助的釣魚(yú)攻擊活動(dòng)可以更快速地大規(guī)模展開(kāi)，及時(shí)識(shí)別非常重要，這讓企業(yè)可以迅速通知員工，并為反釣魚(yú)工具和AI檢測(cè)模型提供重要的事件內(nèi)容。
因此，企業(yè)應(yīng)該盡可能地簡(jiǎn)化報(bào)告提交流程，并確保該機(jī)制能夠捕獲盡可能多的威脅信息，以提高其價(jià)值和可用性。將釣魚(yú)郵件轉(zhuǎn)發(fā)到安全運(yùn)營(yíng)中心有利于捕獲郵件中的所有元數(shù)據(jù)信息。相關(guān)政府監(jiān)管機(jī)構(gòu)也應(yīng)該不斷鼓勵(lì)企業(yè)組織加入DMARC（基于域的消息驗(yàn)證、報(bào)告和一致性）策略。
6.加強(qiáng)身份驗(yàn)證
基于密碼的身份驗(yàn)證技術(shù)本質(zhì)上難以應(yīng)對(duì)AI網(wǎng)絡(luò)釣魚(yú)活動(dòng)的攻擊，因此，企業(yè)需要找到有一些可以抵御AI網(wǎng)絡(luò)釣魚(yú)的新方法。通行密鑰被認(rèn)為是防范AI網(wǎng)絡(luò)釣魚(yú)的有效驗(yàn)證模式之一，盡管該技術(shù)仍需要進(jìn)一步完善，但其應(yīng)用正變得越來(lái)越主流。此外，多因素身份驗(yàn)證（MFA）也是企業(yè)應(yīng)該具備的身份驗(yàn)證能力，因?yàn)槿绻枰诙郎矸蒡?yàn)證環(huán)節(jié)，將會(huì)大大增加攻擊者實(shí)際訪(fǎng)問(wèn)到系統(tǒng)資源的難度。
7.將安全文化作為主要的防御手段
如果每一個(gè)企業(yè)用戶(hù)都能掌握一些關(guān)鍵的網(wǎng)絡(luò)安全知識(shí)，90%以上的網(wǎng)絡(luò)犯罪活動(dòng)都可以被輕松預(yù)防，因?yàn)槿耸蔷W(wǎng)絡(luò)安全建設(shè)中最核心的因素。因此，在企業(yè)內(nèi)部培養(yǎng)安全理念是關(guān)鍵。
員工在日常工作中的安全意識(shí)和行為就如同企業(yè)的基本免疫系統(tǒng)，持續(xù)培訓(xùn)以加強(qiáng)員工安全意識(shí)是防護(hù)AI網(wǎng)絡(luò)釣魚(yú)攻擊的關(guān)鍵。安全團(tuán)隊(duì)需要向員工準(zhǔn)確的傳達(dá)：未來(lái)的釣魚(yú)攻擊手段不再低級(jí)可笑，不能僅憑借電子郵件及其他通信內(nèi)容的精美程度來(lái)判斷是否存在威脅，現(xiàn)在要求員工有更高的警惕性。
