本文來自微信公眾號“中國信息安全”。
伴隨生成式AI的迅猛發(fā)展，普通人應(yīng)用的門檻越來越低：10秒就能克隆聲音，復(fù)刻你的照片，甚至能生成“你”的視頻。這為新型的詐騙提供了技術(shù)土壤，AI詐騙成為社會關(guān)注熱點。
日前，一項由媒體機(jī)構(gòu)發(fā)起的大學(xué)生調(diào)研，在回收的近1500份有效調(diào)查問卷中，半數(shù)受訪大學(xué)生本人或身邊的人曾遭遇疑似AI詐騙，7成大學(xué)生對AI詐騙感到恐慌，表示自己會被AI詐騙。調(diào)研結(jié)果顯示，不少受訪大學(xué)生認(rèn)為高?？梢栽O(shè)置AI課程、大模型攻防比賽等科普教育活動，讓大家提升AI反詐意識。
由于大模型在與用戶交互過程中，涉及大量個人信息和數(shù)據(jù)，AI詐騙的背后關(guān)乎著用戶隱私，業(yè)內(nèi)專家呼吁應(yīng)提高自身安全意識、保護(hù)個人信息安全，同時業(yè)界共同關(guān)注大模型安全刻不容緩。
半數(shù)受訪大學(xué)生曾遭遇疑似AI詐騙
7成感到恐慌
該調(diào)查樣本選取了四川、北京、上海等地近10所大學(xué)的近1500名大學(xué)生。數(shù)據(jù)顯示，半數(shù)的受訪大學(xué)生本人或身邊的人曾遭遇疑似AI詐騙，不乏碩士及博士等學(xué)歷的學(xué)生。詐騙形式最多的是電話，同時也包括AI換臉、AI音頻偽造、視頻造假、AI投資顧問騙局等，其中一半以上受訪大學(xué)生，表示接到過疑似詐騙的機(jī)器人電話。高達(dá)77%的受訪大學(xué)生會因為AI詐騙方式層出不窮感到恐慌。
在媒體實地走訪高校過程中，不少大學(xué)生表示，對于當(dāng)下的AI詐騙手段，自己沒有絕對把握識別騙局；對于媒體展示的某著名企業(yè)家的AI合成音頻，近8成大學(xué)生無法分辨是真人還是AI制作。不少大學(xué)生表達(dá)了他們的擔(dān)心，如若父母輩遭遇詐騙，后果不堪設(shè)想。
AI詐騙相比傳統(tǒng)詐騙，技術(shù)手段更高級、詐騙手段更隱蔽，也更容易引起信任。此外，有74%的受訪大學(xué)生認(rèn)為自己有可能會被AI詐騙，防不勝防和容易被騙成為他們在形容自己AI詐騙意識時候的關(guān)鍵詞。
不少受訪大學(xué)生認(rèn)為高?？梢栽O(shè)置大模型攻防等相關(guān)比賽或其他科普活動，讓大家提升AI反詐意識，關(guān)注大模型安全。
AI詐騙關(guān)乎用戶隱私
專家呼吁攻堅大模型安全
“當(dāng)下AI詐騙主要分為語音詐騙、文本詐騙、視頻詐騙等幾種類型。AI擬音、換臉，是基于真人信息，這也意味著AI詐騙背后是用戶隱私的泄漏。”
螞蟻集團(tuán)安全實驗室首席科學(xué)家、全球AI大模型攻防挑戰(zhàn)賽評審委員會委員王維強(qiáng)在接受采訪時指出，保護(hù)大模型與保障用戶隱私緊密相連。大模型在與用戶交互的過程中，不可避免地會涉及大量的個人信息和數(shù)據(jù)，一旦存在各種漏洞和缺陷，極有可能引發(fā)嚴(yán)重后果。只有切實保障大模型安全，才能為用戶的合法權(quán)益筑起堅固的防護(hù)墻。“安全，是大模型技術(shù)持續(xù)發(fā)展的堅實地基。”王維強(qiáng)總結(jié)。
如何守護(hù)大模型安全？王維強(qiáng)建議，不能僅僅依賴技術(shù)手段，還需要加強(qiáng)安全規(guī)范和安全意識。只有當(dāng)技術(shù)、規(guī)范和意識三者協(xié)同發(fā)力，我們才能真正守護(hù)好大模型的安全，為其持續(xù)健康發(fā)展創(chuàng)造良好的條件。
基于此，由中國圖象圖形學(xué)學(xué)會、螞蟻集團(tuán)、云安全聯(lián)盟（CSA）大中華區(qū)聯(lián)合主辦，聯(lián)合清華大學(xué)、上海交通大學(xué)、浙江大學(xué)等高校及多家產(chǎn)學(xué)研組織共同發(fā)起的，國內(nèi)首個AI大模型攻防挑戰(zhàn)賽，通過大模型技術(shù)攻防實戰(zhàn)演練，助力AI反詐，保護(hù)大模型安全。
王維強(qiáng)介紹，大賽的舉辦，第一可以尋找優(yōu)秀技術(shù)方案，為選手們提供相互交流的平臺，第二是可以遴選優(yōu)秀人才，為行業(yè)的未來發(fā)展儲備智力資源。據(jù)了解，賽事啟動至今，吸引了全球范圍內(nèi)2700多個賽隊、3200余名技術(shù)精英參與，覆蓋中國、美國、英國、印度、韓國等18個國家和地區(qū)。參賽選手分別來自清華大學(xué)、北京大學(xué)、中國科學(xué)院、上海交通大學(xué)、南洋理工大學(xué)、約翰霍普金斯大學(xué)、香港科技大學(xué)、悉尼大學(xué)等290多個國內(nèi)外高校。該賽事將在烏鎮(zhèn)世界互聯(lián)網(wǎng)大會公布其全球十強(qiáng)。
