本文來自微信公眾號“GoUpSec”。
過去幾年中,盡管企業(yè)在網(wǎng)絡安全解決方案方面投入巨資,網(wǎng)絡犯罪造成的經(jīng)濟損失卻逐年上升。根據(jù)Cybersecurityventures的報告,2024年全球網(wǎng)絡犯罪造成的損失將超過10萬億美元,成為全球“第三大經(jīng)濟體”。
近年來黑客活動向“基于身份的攻擊”轉(zhuǎn)型,2024年用于竊取身份、憑據(jù)和隱私的社會工程攻擊,尤其是網(wǎng)絡釣魚和商業(yè)電子郵件入侵(BEC)將是企業(yè)安全團隊的頭號威脅。根據(jù)Verizon的數(shù)據(jù)泄露報告,82%的數(shù)據(jù)泄露事件涉及社會工程攻擊。KnowBe4的調(diào)查顯示,2023年,70%的員工至少經(jīng)歷過一次網(wǎng)絡釣魚攻擊。
過去三年,一些最重大的網(wǎng)絡安全事件往往始于社會工程攻擊:
●2021年,Colonial Pipeline遭到勒索軟件攻擊,導致美國東海岸汽油供應中斷。攻擊者通過網(wǎng)絡釣魚電子郵件獲得了員工的登錄憑據(jù),從而進入公司網(wǎng)絡。
●2022年,微軟遭到SolarWinds供應鏈攻擊。攻擊者通過向SolarWinds客戶發(fā)送惡意軟件更新,在全球范圍內(nèi)感染了數(shù)千個組織。
●2023年,Uber遭到數(shù)據(jù)泄露。攻擊者通過社會工程攻擊獲得了員工的登錄憑據(jù),從而竊取了公司7700萬用戶的數(shù)據(jù)。
社會工程攻擊利用的是人性心理而非技術(shù)漏洞,因此具有隱蔽性和難以通過純技術(shù)手段防御的特點。除了加強員工安全意識培訓、實施MFA和零信任方法外,企業(yè)還必須積極創(chuàng)新,擁抱主動防御方法,從根本上扭轉(zhuǎn)在社會工程攻擊中所處的不利局面。
安全意識創(chuàng)新方法勢在必行
為應對這些挑戰(zhàn),越來越多的企業(yè)安全團隊轉(zhuǎn)向采用創(chuàng)新策略來加強社會工程攻擊防御能力。作為對抗社會工程攻擊最重要的措施,安全意識培訓的重要性日益凸顯,Sage的調(diào)查顯示,投資安全意識計劃可以將修復漏洞的時間縮短82%。但值得注意的是,依然有超過半數(shù)的CISO對安全意識培訓的效果并不滿意。
在人工智能快速武器化的今天,安全意識培訓本身也正面臨一場技術(shù)革命,人工智能大型語言模型(LLM)有望成為安全意識培訓創(chuàng)新的關(guān)鍵催化劑,徹底改變甚至逆轉(zhuǎn)社會工程攻擊的攻防態(tài)勢。
例如,LLM可以生成模仿網(wǎng)絡釣魚電子郵件的通信內(nèi)容,但其目的是教育用戶識別此類攻擊的標志,將模擬攻擊轉(zhuǎn)化為實時學習機會。此外,LLM可以訓練識別網(wǎng)絡犯罪分子使用的語言和策略模式,從而及時預測并阻止攻擊。LLM還可以分析社會工程攻擊者不斷變化的策略,幫助制定欺詐反制措施,誤導攻擊者、浪費他們的資源并最終阻止他們實現(xiàn)惡意目標。
將人工智能LLM集成到網(wǎng)絡安全策略中是企業(yè)從被動防御機制向主動防御機制的范式轉(zhuǎn)變。通過針對社會工程攻擊的心理基礎分析,企業(yè)可以破壞這些攻擊的有效性,不僅通過技術(shù)手段,還可“以彼之道還施彼身”,利用攻擊者所利用的認知偏差。
黑客機器人:從被動防御到主動出擊
美國國會技術(shù)大學的Mary Aiken和Diane Janosek以及應用研究協(xié)會的Michael Lundie、Adam Amos-Binks和Kira Lindke在最新研究論文中提出了“黑客機器人”(Hackbot)的進攻性防御策略。
“黑客機器人”的實驗設計來源:夏威夷大學
該論文題為“企業(yè)反擊:構(gòu)想黑客機器人-在網(wǎng)絡防御環(huán)境中逆轉(zhuǎn)社會工程攻擊”(標題致敬了星球大戰(zhàn)的“帝國反擊戰(zhàn)”),提出了“黑客機器人”的概念-一種自動反擊的創(chuàng)新方法,專門用于在網(wǎng)絡防御環(huán)境中反擊社會工程攻擊。
論文作者指出,網(wǎng)絡防御正從被動轉(zhuǎn)向主動,研究人員正在評估“是否可以將破壞性的認知技術(shù)應用于攻擊者的認知限制和認知偏差”。類似地,英國國家網(wǎng)絡部隊(NCF)最近的一份報告也介紹了英國如何采取一種新的方式進行進攻性網(wǎng)絡行動,重點破壞信息環(huán)境。
這種方法引入了“認知效應”學說,旨在通過利用對數(shù)字技術(shù)的依賴來對抗敵對行為。因此,進攻性網(wǎng)絡行動可以限制對手收集、分發(fā)和信任信息的能力。
“黑客機器人”的概念強調(diào)網(wǎng)絡安全既涉及技術(shù)因素也涉及人類心理,理解網(wǎng)絡攻擊的人為因素對于有效防御至關(guān)重要,并列舉了網(wǎng)絡犯罪分子的十個心理漏洞,“黑客機器人”可以利用這些漏洞來建立相應的反擊模式。這些漏洞包括:
●信任偏差
●在線去抑制
●沖動
●冒險
●認知超負荷
●尋求獎勵
●性變態(tài)
●黑暗人格特質(zhì)
●情感屬性
●注意力隧道效應
根據(jù)研究論文,“黑客機器人”的任務是生成可以在社會工程攻擊框架中使用的文本。這需要理解特定攻擊類型的背景,能夠處理各種不同的攻擊,并生成符合攻擊者目標的對話。可以使用預訓練的LLM,并使用真實世界的社會工程攻擊事件報告對其進行微調(diào)。LLM非常適合這項任務,因為開源LLM易于獲取,只需要相對較少的下游任務示例,并且可以輕松適應新的環(huán)境。
“黑客機器人”的目標是成為社會工程攻擊的“蜜罐”,讓攻擊者參與長時間的欺騙性互動,分散注意力并消耗資源,并專門設計用于在網(wǎng)絡防御環(huán)境中逆轉(zhuǎn)社會工程攻擊。
在網(wǎng)絡犯罪的軍備競賽中,心理反擊策略是逆轉(zhuǎn)社會工程攻防態(tài)勢的關(guān)鍵一步。隨著網(wǎng)絡威脅變得越來越復雜,針對攻擊者的心理漏洞,利用人工智能大語言模型通過“心理戰(zhàn)”反擊社會工程攻擊,為網(wǎng)絡安全領(lǐng)域開辟了新的前沿陣地。該方法不僅增強了現(xiàn)有的防御措施,而且還為企業(yè)建立更具適應性、智能化和更高效的網(wǎng)絡安全態(tài)勢鋪平了道路。