本文來自微信公眾號“GoUpSec”。
過去幾年中，盡管企業(yè)在網(wǎng)絡安全解決方案方面投入巨資，網(wǎng)絡犯罪造成的經(jīng)濟損失卻逐年上升。根據(jù)Cybersecurityventures的報告，2024年全球網(wǎng)絡犯罪造成的損失將超過10萬億美元，成為全球“第三大經(jīng)濟體”。
近年來黑客活動向“基于身份的攻擊”轉(zhuǎn)型，2024年用于竊取身份、憑據(jù)和隱私的社會工程攻擊，尤其是網(wǎng)絡釣魚和商業(yè)電子郵件入侵(BEC)將是企業(yè)安全團隊的頭號威脅。根據(jù)Verizon的數(shù)據(jù)泄露報告，82%的數(shù)據(jù)泄露事件涉及社會工程攻擊。KnowBe4的調(diào)查顯示，2023年，70%的員工至少經(jīng)歷過一次網(wǎng)絡釣魚攻擊。
過去三年，一些最重大的網(wǎng)絡安全事件往往始于社會工程攻擊：
●2021年，Colonial Pipeline遭到勒索軟件攻擊，導致美國東海岸汽油供應中斷。攻擊者通過網(wǎng)絡釣魚電子郵件獲得了員工的登錄憑據(jù)，從而進入公司網(wǎng)絡。
●2022年，微軟遭到SolarWinds供應鏈攻擊。攻擊者通過向SolarWinds客戶發(fā)送惡意軟件更新，在全球范圍內(nèi)感染了數(shù)千個組織。
●2023年，Uber遭到數(shù)據(jù)泄露。攻擊者通過社會工程攻擊獲得了員工的登錄憑據(jù)，從而竊取了公司7700萬用戶的數(shù)據(jù)。
社會工程攻擊利用的是人性心理而非技術(shù)漏洞，因此具有隱蔽性和難以通過純技術(shù)手段防御的特點。除了加強員工安全意識培訓、實施MFA和零信任方法外，企業(yè)還必須積極創(chuàng)新，擁抱主動防御方法，從根本上扭轉(zhuǎn)在社會工程攻擊中所處的不利局面。
安全意識創(chuàng)新方法勢在必行
為應對這些挑戰(zhàn)，越來越多的企業(yè)安全團隊轉(zhuǎn)向采用創(chuàng)新策略來加強社會工程攻擊防御能力。作為對抗社會工程攻擊最重要的措施，安全意識培訓的重要性日益凸顯，Sage的調(diào)查顯示，投資安全意識計劃可以將修復漏洞的時間縮短82%。但值得注意的是，依然有超過半數(shù)的CISO對安全意識培訓的效果并不滿意。
在人工智能快速武器化的今天，安全意識培訓本身也正面臨一場技術(shù)革命，人工智能大型語言模型(LLM)有望成為安全意識培訓創(chuàng)新的關(guān)鍵催化劑，徹底改變甚至逆轉(zhuǎn)社會工程攻擊的攻防態(tài)勢。
例如，LLM可以生成模仿網(wǎng)絡釣魚電子郵件的通信內(nèi)容，但其目的是教育用戶識別此類攻擊的標志，將模擬攻擊轉(zhuǎn)化為實時學習機會。此外，LLM可以訓練識別網(wǎng)絡犯罪分子使用的語言和策略模式，從而及時預測并阻止攻擊。LLM還可以分析社會工程攻擊者不斷變化的策略，幫助制定欺詐反制措施，誤導攻擊者、浪費他們的資源并最終阻止他們實現(xiàn)惡意目標。
將人工智能LLM集成到網(wǎng)絡安全策略中是企業(yè)從被動防御機制向主動防御機制的范式轉(zhuǎn)變。通過針對社會工程攻擊的心理基礎分析，企業(yè)可以破壞這些攻擊的有效性，不僅通過技術(shù)手段，還可“以彼之道還施彼身”，利用攻擊者所利用的認知偏差。
黑客機器人：從被動防御到主動出擊
美國國會技術(shù)大學的Mary Aiken和Diane Janosek以及應用研究協(xié)會的Michael Lundie、Adam Amos-Binks和Kira Lindke在最新研究論文中提出了“黑客機器人”（Hackbot）的進攻性防御策略。
“黑客機器人”的實驗設計來源：夏威夷大學
該論文題為“企業(yè)反擊：構(gòu)想黑客機器人-在網(wǎng)絡防御環(huán)境中逆轉(zhuǎn)社會工程攻擊”（標題致敬了星球大戰(zhàn)的“帝國反擊戰(zhàn)”），提出了“黑客機器人”的概念-一種自動反擊的創(chuàng)新方法，專門用于在網(wǎng)絡防御環(huán)境中反擊社會工程攻擊。
論文作者指出，網(wǎng)絡防御正從被動轉(zhuǎn)向主動，研究人員正在評估“是否可以將破壞性的認知技術(shù)應用于攻擊者的認知限制和認知偏差”。類似地，英國國家網(wǎng)絡部隊(NCF)最近的一份報告也介紹了英國如何采取一種新的方式進行進攻性網(wǎng)絡行動，重點破壞信息環(huán)境。
這種方法引入了“認知效應”學說，旨在通過利用對數(shù)字技術(shù)的依賴來對抗敵對行為。因此，進攻性網(wǎng)絡行動可以限制對手收集、分發(fā)和信任信息的能力。
“黑客機器人”的概念強調(diào)網(wǎng)絡安全既涉及技術(shù)因素也涉及人類心理，理解網(wǎng)絡攻擊的人為因素對于有效防御至關(guān)重要，并列舉了網(wǎng)絡犯罪分子的十個心理漏洞，“黑客機器人”可以利用這些漏洞來建立相應的反擊模式。這些漏洞包括：
●信任偏差
●在線去抑制
●沖動
●冒險
●認知超負荷
●尋求獎勵
●性變態(tài)
●黑暗人格特質(zhì)
●情感屬性
●注意力隧道效應
根據(jù)研究論文，“黑客機器人”的任務是生成可以在社會工程攻擊框架中使用的文本。這需要理解特定攻擊類型的背景，能夠處理各種不同的攻擊，并生成符合攻擊者目標的對話。可以使用預訓練的LLM，并使用真實世界的社會工程攻擊事件報告對其進行微調(diào)。LLM非常適合這項任務，因為開源LLM易于獲取，只需要相對較少的下游任務示例，并且可以輕松適應新的環(huán)境。
“黑客機器人”的目標是成為社會工程攻擊的“蜜罐”，讓攻擊者參與長時間的欺騙性互動，分散注意力并消耗資源，并專門設計用于在網(wǎng)絡防御環(huán)境中逆轉(zhuǎn)社會工程攻擊。
在網(wǎng)絡犯罪的軍備競賽中，心理反擊策略是逆轉(zhuǎn)社會工程攻防態(tài)勢的關(guān)鍵一步。隨著網(wǎng)絡威脅變得越來越復雜，針對攻擊者的心理漏洞，利用人工智能大語言模型通過“心理戰(zhàn)”反擊社會工程攻擊，為網(wǎng)絡安全領(lǐng)域開辟了新的前沿陣地。該方法不僅增強了現(xiàn)有的防御措施，而且還為企業(yè)建立更具適應性、智能化和更高效的網(wǎng)絡安全態(tài)勢鋪平了道路。
