本文來(lái)自微信公眾號(hào)“AI科技評(píng)論”，作者丨李揚(yáng)霞，編輯丨陳彩嫻。
安全GPT什么時(shí)候能迎來(lái)它的“驚艷時(shí)刻”？
卷渠道、卷客戶、卷項(xiàng)目、卷技術(shù)，網(wǎng)絡(luò)安全行業(yè)的“卷”已經(jīng)不是什么秘密了。
有人說(shuō)網(wǎng)絡(luò)安全行業(yè)是IT行業(yè)最后的朝陽(yáng)產(chǎn)業(yè)；也有人說(shuō)安全行業(yè)市場(chǎng)盤子就這么大，誰(shuí)都想分一塊蛋糕，還有新的廠商加入進(jìn)來(lái)，已經(jīng)快卷死了。
安全項(xiàng)目的無(wú)限內(nèi)卷和低價(jià)就體現(xiàn)了內(nèi)卷暗黑的一面。一位做眾測(cè)的業(yè)內(nèi)人士曾告訴AI科技評(píng)論，有的大客戶，會(huì)拉來(lái)好幾家安全公司一起競(jìng)爭(zhēng)，大家打的頭破血流，最后還是價(jià)低者得，但服務(wù)質(zhì)量卻不敢茍同。
另一方面，我們也看到安全各種新概念、新理論、新場(chǎng)景不斷被提出，新產(chǎn)品、新方案、新應(yīng)用也不斷被實(shí)踐，但最后結(jié)果就是產(chǎn)品同質(zhì)化嚴(yán)重，都沒(méi)有激起足以讓行業(yè)眼前一亮的水花。
隨著今年GhatGPT的爆火，大家認(rèn)為所有行業(yè)都值得用GPT重塑一遍。那么安全行業(yè)也值得用GPT重塑一遍嗎？GPT之于安全到底能干什么？這又對(duì)行業(yè)帶來(lái)什么影響？會(huì)不會(huì)對(duì)安全產(chǎn)業(yè)造成顛覆性的影響？
安全行業(yè)已經(jīng)沉寂很長(zhǎng)一段時(shí)間，安全GPT是否是激起安全行業(yè)水花的那一塊石頭？
1
為什么安全行業(yè)亟需要
抓住GPT這個(gè)“救星”
前段時(shí)間，一則思科（CSCO）宣布收購(gòu)網(wǎng)絡(luò)安全軟件公司Splunk的新聞刷屏安全圈，總價(jià)約280億美元（2047億元人民幣），這是思科公司有史以來(lái)最大一筆收購(gòu)，同時(shí)也是IT行業(yè)2023年規(guī)模最大的收購(gòu)案。
而對(duì)于Splunk，只做了一個(gè)產(chǎn)品的公司，就能收獲這么高的價(jià)值，這是國(guó)內(nèi)安全行業(yè)無(wú)論如何都不敢想象的。
為什么這則消息讓國(guó)內(nèi)一眾安全廠商都為之一振。我們可以從中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)營(yíng)業(yè)額看到一些端倪，目前整個(gè)網(wǎng)絡(luò)安全市場(chǎng)的營(yíng)業(yè)額也不超過(guò)千億。另外，從A股各大上市安全公司來(lái)看，整個(gè)市值加起來(lái)不到2000億人民幣，而虧損更成了共性問(wèn)題。
根據(jù)數(shù)說(shuō)安全CSRadar平臺(tái)估算，近五年網(wǎng)絡(luò)安全項(xiàng)目量持續(xù)增長(zhǎng)，但增速逐年下降。
安全行業(yè)亟需來(lái)一劑強(qiáng)心針。
當(dāng)GhatGPT以迅雷不及掩耳之勢(shì)沖到大眾眼前的時(shí)候，多位業(yè)內(nèi)人士都表示受到了很大沖擊。
那么問(wèn)題來(lái)了，安全行業(yè)也值得用GPT來(lái)重塑一遍嗎？
有一部分人認(rèn)為，安全GPT只是追熱點(diǎn)沒(méi)有意義，還是換湯不換藥，沒(méi)有新技術(shù)。而另一部分人則認(rèn)為這是足以顛覆行業(yè)的技術(shù)。
AI科技評(píng)論拜訪了安恒信息高級(jí)副總裁兼研究院院長(zhǎng)王欣以及奇安信集團(tuán)副總裁Q-GPT安全機(jī)器人負(fù)責(zé)人張卓、360數(shù)字安全集團(tuán)安全GPT產(chǎn)品負(fù)責(zé)人楊玉奇，他們幾乎一致地認(rèn)為GPT是一項(xiàng)影響世界、影響行業(yè)的新技術(shù)，但同時(shí)也提出了他們的擔(dān)憂。
王欣認(rèn)為大模型是會(huì)改變安全行業(yè)未來(lái)的格局的，他認(rèn)為如果一些安全廠商只是拿安全GPT蹭個(gè)熱點(diǎn)投點(diǎn)廣告費(fèi)將是沒(méi)有任何意義的，因?yàn)樽罱K將回歸到價(jià)值本質(zhì)。那些只認(rèn)為安全GPT是一個(gè)蹭熱點(diǎn)的機(jī)會(huì)的企業(yè)，核心是是否真正領(lǐng)悟到大模型技術(shù)將給行業(yè)帶來(lái)的革命性的變化。
王欣對(duì)AI科技評(píng)論表示，現(xiàn)在安恒信息在實(shí)踐大模型的同時(shí)，更重點(diǎn)關(guān)注并實(shí)踐以大模型為核心的Ai Agents（AI智能體）。我們認(rèn)為智能體將實(shí)現(xiàn)更加貼合安全行業(yè)的人機(jī)協(xié)同，一方面大模型有更良好自然語(yǔ)言的交互能力、泛化能力、推理能力，但在一定程度上如幻覺(jué)等問(wèn)題也是客觀存在的，另外一方面在安全工作中，除了善思考，還需要通過(guò)“手”、“腳”處理具體的工作任務(wù)。而以大模型為核心的AI Agents（AI智能體），包含了規(guī)劃的能力、記憶的能力以及使用工具的能力，可以很好地解決大模型當(dāng)前存在的一些客觀問(wèn)題，同時(shí)也更符合安全工作的業(yè)務(wù)需求場(chǎng)景。
奇安信集團(tuán)副總裁、Q-GPT安全機(jī)器人負(fù)責(zé)人張卓也認(rèn)為，安全大模型要形成改變行業(yè)的生產(chǎn)力，就不能僅僅停留在類ChatGPT的問(wèn)答對(duì)話框形式，而應(yīng)該是一個(gè)聰明的機(jī)器人，即“虛擬安全專家”，成為真正的工業(yè)級(jí)大模型。
張卓對(duì)AI科技評(píng)論表示，大模型的第一個(gè)層級(jí)叫做對(duì)話式交流式的層級(jí)，這種方式是通過(guò)問(wèn)答方式來(lái)把我們的知識(shí)進(jìn)行傳播、分享、聯(lián)系和生成的；第二級(jí)是工業(yè)級(jí)，能夠在具體業(yè)務(wù)領(lǐng)域、行業(yè)領(lǐng)域我們能夠自動(dòng)的去執(zhí)行和完成特定的和領(lǐng)域相關(guān)的任務(wù)。目前奇安信推出了Q-GPT安全機(jī)器人，就是幫助安全專家執(zhí)行復(fù)雜任務(wù)，能全天候地工作。未來(lái)第三級(jí)是全面級(jí)，比如說(shuō)生成下一代的天眼、下一代的天擎等等，目前第三級(jí)距離我們還有一些距離。
同時(shí)他也擔(dān)心開(kāi)放式的安全大模型，可能存在重要安全數(shù)據(jù)泄露的問(wèn)題。
數(shù)據(jù)顯示，在使用ChatGPT的員工中大多數(shù)會(huì)泄露數(shù)據(jù)，其中11%的數(shù)據(jù)為企業(yè)敏感數(shù)據(jù)。數(shù)據(jù)是企業(yè)的核心資產(chǎn)，給GPT等大模型投喂數(shù)據(jù)，泄露只是風(fēng)險(xiǎn)之一。
360數(shù)字安全集團(tuán)安全GPT產(chǎn)品負(fù)責(zé)人楊玉奇表示，安全行業(yè)肯定值得用GPT重塑一遍，現(xiàn)在GPT給我?guī)?lái)的感受已經(jīng)從當(dāng)時(shí)的震撼回歸到理性了，這是一個(gè)新的范式，能做到以前做不到的事情，根據(jù)這些能力本身我們就應(yīng)該嘗試重塑各行各業(yè)。但是這里面唯一的風(fēng)險(xiǎn)就是，未來(lái)能走多遠(yuǎn)取決于大模型到底有多大能力。目前大模型整體表現(xiàn)出的能力還沒(méi)有達(dá)到“驚艷”的程度。
雖然關(guān)于大模型的擔(dān)憂和關(guān)注，都是不可忽視的。但是隨著這場(chǎng)關(guān)于大模型的“競(jìng)賽”愈演愈烈，越來(lái)越多的行業(yè)開(kāi)始部署GPT大模型。而垂直領(lǐng)域（行業(yè)）人工智能也將迎來(lái)大發(fā)展，比如醫(yī)療、教育、投資、警務(wù)、安全等等。
大模型已經(jīng)走向了千行百業(yè)，安全行業(yè)也必須抓住這次新技術(shù)的機(jī)遇，從而提振行業(yè)。
2
用好AI技術(shù)，能顛覆安全產(chǎn)業(yè)嗎？
談?wù)撊绾斡煤肁I技術(shù)之前，我們不妨討論一下，網(wǎng)絡(luò)安全能用大模型做什么？
大模型最大的優(yōu)勢(shì)在于自然語(yǔ)言的處理能力上，在網(wǎng)絡(luò)安全領(lǐng)域，AI大模型可以在增強(qiáng)網(wǎng)絡(luò)安全分析、檢測(cè)、策略制定等方面極大的提升智能化的能力。
比如：通過(guò)AI大模型不僅可以分析海量非結(jié)構(gòu)化文本，發(fā)現(xiàn)網(wǎng)絡(luò)安全威脅的跡象；還可通過(guò)機(jī)器學(xué)習(xí)快速發(fā)現(xiàn)未知的網(wǎng)絡(luò)攻擊模式并建立檢測(cè)模型；同時(shí)可以借助強(qiáng)化學(xué)習(xí)進(jìn)行的紅藍(lán)對(duì)抗找出安全漏洞；通過(guò)上下文關(guān)聯(lián)進(jìn)行更有效的網(wǎng)絡(luò)安全決策、風(fēng)險(xiǎn)評(píng)估、資源分配和制定安全策略；自然語(yǔ)言交互方式，可以降低對(duì)運(yùn)營(yíng)人員的專業(yè)要求，提高運(yùn)營(yíng)效率，幫助企業(yè)實(shí)現(xiàn)降本增效等。
據(jù)AI科技評(píng)論了解，目前微軟、360、深信服、安恒信息、啟明星辰、綠盟、奇安信、長(zhǎng)亭科技、美亞柏科等都已經(jīng)發(fā)布了自己的安全大模型。但各家安全大模型的側(cè)重點(diǎn)都有所不同。
舉例來(lái)說(shuō)，安恒恒腦·安全垂域大模型通過(guò)增量預(yù)訓(xùn)練、微調(diào)等多種方式讓大模型掌握各安全領(lǐng)域內(nèi)生知識(shí)，利用大模型調(diào)度小模型、知識(shí)圖譜、安全能力插件實(shí)現(xiàn)安全運(yùn)營(yíng)專家、安全滲透專家、安全培訓(xùn)導(dǎo)師等安全角色。在安恒信息研究院院長(zhǎng)王欣看來(lái)，因?yàn)槿斯ぶ悄苁且粋€(gè)擬人化學(xué)科，所以對(duì)它（安全大模型）賦予的意義也偏向于人。目前，該平臺(tái)以智能輔助形式已運(yùn)用于剛剛結(jié)束的成都大運(yùn)會(huì)及杭州亞運(yùn)會(huì)，安全運(yùn)營(yíng)成效提升70%以上。
而360則是依托安全大模型打造了一套智能中樞系統(tǒng)，同時(shí)給智能中樞系統(tǒng)配備了“手眼”和“工具”，手和眼主要是指API接口，分別負(fù)責(zé)操控工具和反饋結(jié)果，工具主要是指各類安全產(chǎn)品和系統(tǒng)。通過(guò)自然語(yǔ)言指揮各類安全產(chǎn)品和系統(tǒng)完成運(yùn)營(yíng)任務(wù)。目前，依托360安全大模型的智能中樞系統(tǒng)通過(guò)扮演“安全問(wèn)答專家”和“安全運(yùn)營(yíng)專家”兩大角色來(lái)輔助企業(yè)安全運(yùn)營(yíng)。
奇安信認(rèn)為，作為垂直領(lǐng)域的大模型，安全大模型不能依托于公開(kāi)的通用型數(shù)據(jù)，而是需要依托強(qiáng)大的安全專家團(tuán)隊(duì)，海量非公開(kāi)的安全領(lǐng)域知識(shí)、專業(yè)經(jīng)驗(yàn)，包括安全日志、文檔、知識(shí)庫(kù)、情報(bào)類數(shù)據(jù)，以及豐富的實(shí)戰(zhàn)攻防和重保經(jīng)驗(yàn)等，再結(jié)合大模型持續(xù)訓(xùn)練，才能深入對(duì)應(yīng)安全的應(yīng)用場(chǎng)景中，發(fā)揮出強(qiáng)大的智能分析和高效的自動(dòng)研判能力，輔助甚至替代專家完成智能研判、智能溯源、智能處置等工作，從而提升安全運(yùn)營(yíng)效率。
在安全大模型訓(xùn)練的路線選擇上，有的廠商選擇微調(diào)，而另一部分選擇做預(yù)訓(xùn)練。王欣表示：“安全行業(yè)的大模型不一定要從0開(kāi)始訓(xùn)練，但需要通過(guò)“精”和“專”的安全領(lǐng)域知識(shí)數(shù)據(jù)進(jìn)行增量預(yù)訓(xùn)練。一些企業(yè)僅通過(guò)微調(diào)來(lái)打造“安全大模型”，雖然投入的成本很低，但是無(wú)法達(dá)成很好的效果。”
楊玉奇認(rèn)為走的快的不一定就走的遠(yuǎn)，如果開(kāi)始的太早，沒(méi)有選擇對(duì)路線，那么也會(huì)面臨時(shí)間和算力全都浪費(fèi)掉的風(fēng)險(xiǎn)，有時(shí)候做微調(diào)可能更符合現(xiàn)實(shí)場(chǎng)景。
那么到底怎么樣才算是用好AI技術(shù)呢？在楊玉奇看來(lái)，大模型有三點(diǎn)長(zhǎng)處：第一點(diǎn)是語(yǔ)言理解做的很好，改變了交互方式，但是這個(gè)東西并不足以改變世界；第二點(diǎn)是處理形式化的語(yǔ)言，所有的編程語(yǔ)言都是形式化語(yǔ)言，所以在輔助人分析程序的能力方面表現(xiàn)很不錯(cuò)，比如研判安全告警里面的腳本語(yǔ)言；第三點(diǎn)是思維鏈，這是大模型“涌現(xiàn)”的典型例子，就是“似乎”真的可以像人一樣思考了，例如大模型可以自己拆解任務(wù)，有邏輯關(guān)系的思考步驟，形成一整個(gè)思考過(guò)程。
楊玉奇表示在安全領(lǐng)域，AI未來(lái)兩三年可以實(shí)現(xiàn)以下三個(gè)方面：第一，替人分析告警，很快就可以分析出來(lái)和人相同結(jié)論的告警、能溯源出同樣結(jié)論的溯源結(jié)果。第二，發(fā)現(xiàn)人都發(fā)現(xiàn)不了的未知的攻擊。第三，做到全自動(dòng)化值守，就像人一樣將告警拆解成單個(gè)任務(wù)，并調(diào)用不同的工具去獲取結(jié)果，同時(shí)根據(jù)結(jié)果去做處置。
雖然GPT技術(shù)在安全領(lǐng)域的應(yīng)用已經(jīng)取得了一定的成果，但也存在一定的局限性，就像楊玉奇所說(shuō)還沒(méi)有達(dá)到“驚艷時(shí)刻”，這中間還是有一個(gè)過(guò)程的。
例如，GPT模型可能會(huì)受到對(duì)抗性攻擊的影響。攻擊者可以通過(guò)生成具有誤導(dǎo)性的文本，來(lái)欺騙GPT模型，從而影響其判斷。還有，GPT模型在處理敏感信息時(shí)，可能會(huì)泄露用戶的隱私?；蛘咴谔幚韽?fù)雜安全問(wèn)題時(shí)，可能無(wú)法達(dá)到人類專家的水平。此外，GPT技術(shù)在處理大量數(shù)據(jù)時(shí)，可能會(huì)遇到計(jì)算資源和時(shí)間的限制。
網(wǎng)絡(luò)安全行業(yè)是一個(gè)涉及到眾多方面的復(fù)雜領(lǐng)域。除了安全技術(shù)之外，還包括政策、管理、人員等多個(gè)方面。因此，GPT雖然可以在某些技術(shù)應(yīng)用上發(fā)揮作用，但無(wú)法替代安全領(lǐng)域中許多其他領(lǐng)域的專業(yè)知識(shí)和技能。
因此，盡管GPT技術(shù)在安全領(lǐng)域具有一定的應(yīng)用價(jià)值，但要完全顛覆安全行業(yè)仍需時(shí)日，GPT技術(shù)在安全領(lǐng)域的應(yīng)用仍需進(jìn)一步優(yōu)化和完善。
從卷渠道、卷客戶、卷項(xiàng)目、卷技術(shù)到如今的卷安全大模型，AI科技評(píng)論認(rèn)為真正的卷應(yīng)該是正向的意識(shí)形態(tài)，意味著無(wú)論自身還是同行都能越卷越向上，如果“內(nèi)卷”就相當(dāng)于“燒錢”、“推出越來(lái)越同質(zhì)化的產(chǎn)品“以及”無(wú)用的精益求精”，那么這些內(nèi)卷，只會(huì)讓行業(yè)進(jìn)入“停滯不前的漩渦”。
