技術(shù)發(fā)展是把“雙刃劍”，一面可以幫助社會升級發(fā)展，一面也給了不法分子可乘之機，利用先進技術(shù)開展攻擊與威脅的行為。
“大多數(shù)網(wǎng)絡安全仍然需要依靠人工。”從事安全分析和自動化業(yè)務的Rapid7公司的董事長兼首席執(zhí)行官科里·托馬斯(Corey Thomas)在近日舉辦的《財富》雜志A.I.頭腦風暴會議上談到。戴爾科技全球首席技術(shù)官John Roese指出，現(xiàn)在很多網(wǎng)絡攻擊受到機器智能、高級自動化技術(shù)支持。因此，依靠人力構(gòu)建的網(wǎng)絡防御體系會受限于響應速度，遭到攻擊和危險。
人工智能技術(shù)迭代升級，深入應用到互聯(lián)網(wǎng)、安防、城市和社會治理等各個領(lǐng)域，助力行業(yè)數(shù)字化、智能化升級的同時，催生出了對抗樣本攻擊、模型后門、模型竊取等專門針對人工智能系統(tǒng)的新型安全問題。行業(yè)企業(yè)需要更多更新的應對之策，培養(yǎng)預判能力，避免來自外界的破壞。
多年來，網(wǎng)絡靶場已經(jīng)成為全球各國爭相布局的網(wǎng)絡安全重要策略手段。在人工智能時代，面向AI技術(shù)的靶場建設也同樣不可或缺。
AI技術(shù)進行網(wǎng)絡攻擊趨勢走高
今年7月，來自康奈爾大學的3名安全研究人員發(fā)布的研究報告顯示，惡意軟件代碼可以藏身于神經(jīng)網(wǎng)絡模型中，能夠躲避偵測，甚至不影響該AI模型的性能。如今，基于AI技術(shù)的網(wǎng)絡攻擊已經(jīng)出現(xiàn)了多種形式，比如通過開發(fā)惡意軟件，更改其結(jié)構(gòu)來避免被檢測到；通過對抗樣本等新型攻擊技術(shù)，攻破人臉解鎖、假冒身份認證、支付盜刷，干擾危險品識別，導致監(jiān)控失效等惡性事件。“攻擊手段自動化程度提升、隱蔽性增強。攻擊者用AI模擬人行為繞過常規(guī)安全規(guī)則匹配的手段屢見不鮮，入侵檢測和防護的難度水漲船高。”這是網(wǎng)宿科技在近日發(fā)布的《2021上半年中國互聯(lián)網(wǎng)安全報告》中，針對網(wǎng)絡安全發(fā)展預測的三大趨勢之一。
安全可控人工智能系統(tǒng)提供商瑞萊智慧副總裁唐家渝指出，人工智能安全態(tài)勢不斷演化，新型攻擊手段不斷涌現(xiàn)，單一產(chǎn)品只能解決滯后問題，面對未知威脅的風險預判和策略調(diào)整能力不足。人工智能作為新型信息技術(shù)，行業(yè)存在專業(yè)人才不足與實戰(zhàn)經(jīng)驗匱乏的雙重困境。
網(wǎng)絡靶場已成為各國網(wǎng)安“練兵場”
面對無處不在，層出不窮的網(wǎng)絡安全問題，網(wǎng)絡靶場建設已經(jīng)成為世界各國搶先布局的新型網(wǎng)絡安全戰(zhàn)略。2008年，美國為鞏固國家信息安全，保護和防御國家重要信息系統(tǒng)和關(guān)鍵基礎設施免受侵害，開始籌建國家網(wǎng)絡靶場（NCR）；2010年，英國宣布建設聯(lián)合網(wǎng)絡靶場，用于安全地演練網(wǎng)絡攻擊和防御，并測試現(xiàn)有的網(wǎng)絡軟硬件，且靶場可用于商業(yè)用途；2013年，德國等政府開始針對工業(yè)控制系統(tǒng)等關(guān)鍵基礎設施，建設如“國家SCADA測試床（NSTB）”等項目。
經(jīng)過全球多年的演練證實，網(wǎng)絡靶場對國家和社會各層面的安全保障均具有重大推進作用。建設面向AI技術(shù)的安全靶場，是人工智能時代保障網(wǎng)絡安全的必要手段。
我國正處在人工智能產(chǎn)業(yè)發(fā)展與產(chǎn)業(yè)落地的關(guān)鍵時期，新技術(shù)帶來了新風險，催生出對抗樣本攻擊、模型后門、模型竊取等專門針對人工智能系統(tǒng)的新型安全問題。
隨著產(chǎn)業(yè)進程的深入，這些安全風險的邊界迅速擴散，逐步蔓延至互聯(lián)網(wǎng)、安防、城市和社會治理等各個領(lǐng)域，危害到社會安全與國家安全。面對日益加劇的人工智能安全問題，政策層面對于建設針對性的防御機制開始加強重視。
2018年，中國貴州發(fā)布《貴陽市大數(shù)據(jù)安全管理條例》立法支持建設大數(shù)據(jù)安全靶場，并依托靶場逐年開展面向新興技術(shù)的對抗演練；工信部在今年發(fā)布的《網(wǎng)絡安全產(chǎn)業(yè)高質(zhì)量發(fā)展三年行動計劃（2021-2023年）（征求意見稿）》顯示，要構(gòu)建人工智能安全威脅分類體系，面向人工智能系統(tǒng)的生命周期，建立人工智能威脅模型，制定面向人工智能系統(tǒng)安全性檢測與評估標準體系。研究人工智能系統(tǒng)可解釋性、隱私性等安全要素，突破人工智能模型攻擊與防御關(guān)鍵技術(shù)，設計實現(xiàn)人工智能系統(tǒng)自動攻防平臺，構(gòu)建人工智能安全靶場。
AI安全靶場迎接網(wǎng)絡惡意“狙擊”
“讓風險發(fā)生在靶場，讓有效防御構(gòu)建在安全事件之前”。唐家渝指出，人工智能安全靶場好比“演兵場”，可以通過攻防實戰(zhàn)演練，將安全風險暴露前置，提前發(fā)現(xiàn)和適應不斷升級、多變的新型攻擊和高級威脅。
近日，瑞萊智慧發(fā)布人工智能安全靶場RealRange，可通過預設訓練場景模型、對抗攻防競演等，幫助政企機構(gòu)開展安全能力體系檢驗評估、培育新型安全人才，建設新型人工智能安全防御體系。
今年6月，為了完善AI安全與產(chǎn)業(yè)治理體系，清華大學聯(lián)合阿里、瑞萊智慧聯(lián)合發(fā)布面向AI的全新測試基準平臺，旨在全面、客觀、科學地衡量算法模型的安全性。
據(jù)唐家渝介紹，該靶場平臺按照清華大學、阿里安全聯(lián)合研發(fā)的AI對抗攻防基準，應用技術(shù)涵蓋白盒攻擊、黑盒遷移攻擊等前沿對抗技術(shù)。
記者從瑞萊智慧相關(guān)負責人處了解到，該靶場具有三點優(yōu)勢，一是快速提升人員AI能力，通過研習多個難度不同的攻防靶場，快速熟悉AI安全代表性攻防算法培養(yǎng)實戰(zhàn)人才；二是實戰(zhàn)檢測關(guān)鍵系統(tǒng)安全狀態(tài)，通過將系統(tǒng)核心AI能力接入靶場平臺進行攻防演練，在實戰(zhàn)中檢測AI系統(tǒng)的安全狀態(tài)和防御能力；三是支撐改進現(xiàn)有系統(tǒng)安全性，通過對抗攻防演練經(jīng)驗的分析總結(jié)，對在對抗中暴露的弱點及時加以針對性的防護。
AI技術(shù)不斷迭代升級，配套應用進一步向更多行業(yè)、領(lǐng)域拓展，安全的重要性日益凸顯。產(chǎn)業(yè)界企業(yè)、專家學者開始探索如何確保技術(shù)的可靠性與安全性兼?zhèn)?。AI靶場作為保障AI系統(tǒng)安全的“練兵場”,是AI治理的重要一環(huán)，將推動AI產(chǎn)業(yè)健康發(fā)展。
