本文來(lái)自數(shù)字經(jīng)濟(jì)觀察網(wǎng),作者/韜哥。
今年“兩會(huì)”政府工作報(bào)告中指出，要“深入推進(jìn)數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展”。其中，談到主要工作時(shí)又特別強(qiáng)調(diào)要“深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用，開(kāi)展‘人工智能+’行動(dòng)”。
人工智能在與其他數(shù)字化技術(shù)“+”，與千行百業(yè)的業(yè)務(wù)場(chǎng)景“+”的時(shí)候，更應(yīng)該與安全“+”。
近日，廣西警方通報(bào)了利用“偽消息”博眼球的幾起案件。東興市駱某某將其他地區(qū)的抗洪、救災(zāi)視頻，利用AI軟件自動(dòng)編輯功能，嫁接新疆烏什縣發(fā)生地震的虛假視頻信息。該視頻被大量播放，引發(fā)許多不明真相網(wǎng)民的評(píng)論與轉(zhuǎn)發(fā)，嚴(yán)重干擾了社會(huì)秩序。對(duì)此，東興市公安機(jī)關(guān)已依法對(duì)駱某某進(jìn)行了處罰。
深圳市地方金融監(jiān)管局官網(wǎng)也就利用AI新型技術(shù)實(shí)施詐騙發(fā)出了風(fēng)險(xiǎn)警示。不法分子利用AI技術(shù)，通過(guò)“擬聲和換臉”，詐騙錢(qián)財(cái)。
AI技術(shù)是一把“雙刃劍”，既為我們提供了防御安全攻擊的新手段、新方法，也在客觀上讓黑客和別有用心者有機(jī)可乘。最近兩年，隨著深度合成技術(shù)的開(kāi)放開(kāi)源，深度合成產(chǎn)品和服務(wù)的應(yīng)用逐漸增多，利用AI制作虛假音視頻進(jìn)行詐騙、誹謗的違法行為層出不窮，形式主要包括聲音合成、AI換臉、轉(zhuǎn)發(fā)微信語(yǔ)音、AI程序篩選受害人等。
在OpenAI發(fā)布使用Sora大模型生成的1分鐘短視頻后，生成式AI的想象空間變得更大。在多模態(tài)大模型爆發(fā)前夜，市場(chǎng)分析機(jī)構(gòu)IDC在談到值得關(guān)注的事項(xiàng)時(shí)指出，多模態(tài)大模型將帶來(lái)更嚴(yán)峻的安全方面的挑戰(zhàn)。一方面，多模態(tài)大模型將讀取更多的圖像、視頻類(lèi)數(shù)據(jù)，這些圖像視頻數(shù)據(jù)是否合規(guī)是否安全，需要得到保障；另一方面，生成的視頻與真實(shí)世界之間的差異，是否會(huì)影響到人身安全、社會(huì)穩(wěn)定、企業(yè)安全等，也需要注意。
全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎在其提案中重點(diǎn)關(guān)注了通用大模型的安全問(wèn)題。他建議制定通用大模型安全標(biāo)準(zhǔn)體系，鼓勵(lì)兼具“安全和AI”能力的企業(yè)聚焦攻堅(jiān)，承擔(dān)重?fù)?dān)。
周鴻祎將通用人工智能技術(shù)引發(fā)的復(fù)雜安全風(fēng)險(xiǎn)分為技術(shù)安全、內(nèi)容安全和人類(lèi)安全三個(gè)方面。其中，技術(shù)安全主要涉及大模型技術(shù)本身引發(fā)的安全問(wèn)題，如網(wǎng)絡(luò)、數(shù)據(jù)和生成內(nèi)容的安全；內(nèi)容安全則是對(duì)大模型的控制、濫用、誤用和惡意應(yīng)用等問(wèn)題；而人類(lèi)安全問(wèn)題則是大模型強(qiáng)大后帶來(lái)的安全可控問(wèn)題。
他在提案中特意加以說(shuō)明，稱(chēng)通用大模型的發(fā)展已不是單純的科技之爭(zhēng)，更是國(guó)運(yùn)之爭(zhēng)，影響深遠(yuǎn)，中國(guó)應(yīng)盡早未雨綢繆，重視大模型安全。
事實(shí)告訴我們，針對(duì)AI詐騙以及由于AI技術(shù)的應(yīng)用而變得更加狡猾的安全攻擊，我們更應(yīng)該從思想上提高警惕，同時(shí)也要尋求更加有效的應(yīng)對(duì)方法，并在制度、法律法規(guī)等方面建立起更加完善、有效的保障體系。
2024年2月29日，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布《生成式人工智能服務(wù)安全基本要求》，規(guī)定了生成式人工智能服務(wù)在安全方面的基本要求，包括語(yǔ)料安全、模型安全、安全措施等，并給出了安全評(píng)估要求。相信相關(guān)文件、規(guī)范的出臺(tái)，將讓我們?cè)诿鎸?duì)生成式人工智能可能帶來(lái)的安全威脅時(shí)，能夠做到有的放矢、從容不迫、對(duì)癥下藥。
