本文來自人民郵電報(bào)。
今年的《政府工作報(bào)告》中提出，深入推進(jìn)數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展，深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用，并首次提到開展“人工智能＋”行動(dòng)，同時(shí)提出，要進(jìn)一步提高網(wǎng)絡(luò)、數(shù)據(jù)等重點(diǎn)領(lǐng)域的安全保障能力。同時(shí)，生成式人工智能技術(shù)的加速演進(jìn)正在推動(dòng)全社會(huì)從數(shù)字化向智能化轉(zhuǎn)型，人工智能在打造新的生產(chǎn)工具的同時(shí)，也帶來了前所未有的網(wǎng)絡(luò)安全挑戰(zhàn)。
01
人工智能帶來網(wǎng)絡(luò)安全新挑戰(zhàn)
近年來，我國網(wǎng)絡(luò)安全防護(hù)能力和水平不斷提升，網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展迅速。但隨著全社會(huì)數(shù)字化轉(zhuǎn)型程度的加深，以及人工智能等數(shù)字技術(shù)的不斷發(fā)展，網(wǎng)絡(luò)安全風(fēng)險(xiǎn)和挑戰(zhàn)不斷增加。尤其是生成式人工智能技術(shù)的應(yīng)用，可以快速生成釣魚郵件、編寫惡意軟件與代碼，導(dǎo)致攻擊數(shù)量爆發(fā)式增長。
根據(jù)奇安信集團(tuán)日前發(fā)布的《2024人工智能安全報(bào)告》，2023年基于AI的深度偽造欺詐增長了3000％，基于AI的釣魚郵件增長了1000％；目前已發(fā)現(xiàn)多個(gè)有國家背景的APT組織，利用AI實(shí)施了10余起網(wǎng)絡(luò)攻擊事件。該報(bào)告認(rèn)為，具有巨大潛力的AI技術(shù)同時(shí)帶來諸多挑戰(zhàn)：一方面放大了現(xiàn)有威脅，比如釣魚郵件、惡意軟件等；另一方面引入了新型威脅，如AI自動(dòng)化攻擊、AI深度偽造等。而根據(jù)IDC發(fā)布的報(bào)告，隨著人工智能技術(shù)的發(fā)展，黑客將利用它們來獲取優(yōu)勢(shì)。這將增加各行業(yè)對(duì)網(wǎng)絡(luò)安全服務(wù)的需求，例如高級(jí)云安全監(jiān)控和警報(bào)、SOC和合規(guī)性要求以及網(wǎng)絡(luò)滲透測(cè)試等。
在剛剛結(jié)束的全國兩會(huì)上，代表委員對(duì)人工智能安全問題也給予了高度關(guān)注。“AI加劇了攻防失衡，利用和針對(duì)AI的攻擊層出不窮，網(wǎng)絡(luò)安全‘易攻難守’。在AI惡意利用方面，人工智能大幅降低了網(wǎng)絡(luò)攻擊門檻，不懂代碼、不懂技術(shù)的普通人也能成為黑客，專業(yè)的黑客組織可以利用人工智能對(duì)網(wǎng)絡(luò)攻擊進(jìn)行改造升級(jí)。”全國政協(xié)委員、全國工商聯(lián)副主席、奇安信科技集團(tuán)董事長齊向東表示。
02
人工智能安全體系需要加快完善
日前，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)正式發(fā)布《生成式人工智能服務(wù)安全基本要求》，從語料安全、模型安全等多個(gè)維度規(guī)定了生成式人工智能服務(wù)在安全方面的基本要求，這也是國內(nèi)首個(gè)面向AIGC服務(wù)安全領(lǐng)域的技術(shù)文件。
根據(jù)這份要求，面向特定語料來源進(jìn)行采集前，應(yīng)對(duì)該來源語料進(jìn)行安全評(píng)估，語料內(nèi)容中含違法不良信息超過5％的，不應(yīng)采集該來源語料；面向特定語料來源進(jìn)行采集后，應(yīng)對(duì)所采集的該來源語料進(jìn)行核驗(yàn)，含違法不良信息超過5％的，不應(yīng)使用該來源語料進(jìn)行訓(xùn)練。
實(shí)際上，人工智能安全問題早已引起管理部門的高度重視，2023年7月13日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委等部門出臺(tái)了《生成式人工智能服務(wù)管理暫行辦法》，要求提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)，涉及個(gè)人信息的，依法承擔(dān)個(gè)人信息處理者責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。2023年7月24日，中共中央政治局召開會(huì)議，提出促進(jìn)人工智能安全發(fā)展。
在剛剛召開的全國兩會(huì)上，不少代表委員關(guān)注到人工智能的安全與合規(guī)問題，從技術(shù)、法律等角度就促進(jìn)人工智能健康發(fā)展提出了建議。全國政協(xié)委員、金杜律師事務(wù)所高級(jí)合伙人張毅建議，盡快推進(jìn)“人工智能法”的制定和出臺(tái)，通過統(tǒng)一原則性立法，提煉規(guī)范人工智能算法的共性規(guī)則，并基于不同技術(shù)類型、應(yīng)用領(lǐng)域的人工智能的風(fēng)險(xiǎn)差異，通過有針對(duì)性的法規(guī)予以規(guī)制。“安全是一切發(fā)展的基石和底線，通用大模型的安全，是保障人工智能技術(shù)可持續(xù)發(fā)展、實(shí)現(xiàn)廣泛應(yīng)用的重要基礎(chǔ)，對(duì)確保人工智能系統(tǒng)的可靠性和安全性意義重大，更需國家和企業(yè)重點(diǎn)應(yīng)對(duì)和保障。”全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎表示。
03
AI帶來的安全問題還需要用AI來解決
Sora的橫空出世，讓人們看到了人工智能大模型的成長速度及應(yīng)用前景，與此同時(shí)，利用人工智能技術(shù)進(jìn)行網(wǎng)絡(luò)攻擊的事件越來越頻發(fā)。
解鈴還需系鈴人，當(dāng)前破解人工智能安全問題的關(guān)鍵手段還是人工智能。在齊向東看來，我們要大力推進(jìn)“AI＋安全”的科技創(chuàng)新，把AI安全技術(shù)融入數(shù)字化場(chǎng)景。同時(shí)，鼓勵(lì)企業(yè)和高校把最新的AI科研成果與網(wǎng)絡(luò)安全攻防技術(shù)相融合。借助AI能力加速網(wǎng)絡(luò)安全技術(shù)創(chuàng)新、安全防護(hù)體系創(chuàng)新，這樣安全技術(shù)就能比AI技術(shù)跑得更快。
在今年的全國兩會(huì)上，周鴻祎建議，國家要更加重視通用大模型安全問題，給予兼具安全和AI能力的企業(yè)專項(xiàng)政策扶持，更好發(fā)揮其解決通用大模型安全問題的重要作用。安全需要貫穿通用大模型的整個(gè)構(gòu)建過程，確保安全措施在系統(tǒng)的整個(gè)生命周期中得到充分實(shí)施。
