本文來自學(xué)習(xí)時(shí)報(bào),作者/侯瑩、毋立芳。
隨著大數(shù)據(jù)和深度學(xué)習(xí)的發(fā)展,生成式人工智能技術(shù)給世界政治、經(jīng)濟(jì)、文化領(lǐng)域帶來極大沖擊,技術(shù)創(chuàng)新進(jìn)入新一輪活躍期。生成式人工智能技術(shù)在促進(jìn)新質(zhì)生產(chǎn)力發(fā)展,帶來巨大商業(yè)價(jià)值的同時(shí),也存在深度偽造、虛假信息、廣告欺詐等問題,可能為不法分子提供新的技術(shù)工具,成為詐騙活動(dòng)的“新武器”。預(yù)防、監(jiān)測和治理生成式人工智能詐騙,保護(hù)公眾免受智能詐騙行為的影響,促進(jìn)人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用具有重要意義。
生成式人工智能技術(shù)基于遷移學(xué)習(xí)和人工神經(jīng)網(wǎng)絡(luò),使用深度學(xué)習(xí)模型,傳輸和處理現(xiàn)有文本、圖像和音視頻信息,自動(dòng)創(chuàng)建出新內(nèi)容、新方法和新方案。隨著生成式人工智能技術(shù)的發(fā)展,詐騙形式從線下詐騙、電話詐騙擴(kuò)展到網(wǎng)絡(luò)詐騙。常見的網(wǎng)絡(luò)詐騙包括以下幾種形式:網(wǎng)絡(luò)購物詐騙,詐騙者使用虛假網(wǎng)站、虛假商品和虛假促銷信息,誘騙消費(fèi)者購買商品,通過虛假支付鏈接欺詐消費(fèi)者;網(wǎng)絡(luò)投資詐騙,詐騙者以高收益低風(fēng)險(xiǎn)為誘惑,通過虛假網(wǎng)站參與虛擬貨幣投資、股票期貨等投資活動(dòng),騙取消費(fèi)者錢財(cái);網(wǎng)絡(luò)視頻詐騙,詐騙者利用提前錄制的真人視頻和盜錄的視頻影像,合成為欺詐視頻,向視頻被盜錄者的好友借錢,開展詐騙行為。
防止生成式人工智能成為詐騙新工具是一項(xiàng)系統(tǒng)工程,存在三大監(jiān)控治理難點(diǎn)。一是全鏈路信息監(jiān)管難。詐騙者通過短信、電話、互聯(lián)網(wǎng)等通信渠道,與受害者聯(lián)系,基于獲取的個(gè)人信息和事前準(zhǔn)備好的詐騙腳本,騙取受害者的信任,誘導(dǎo)受害者使用銀行轉(zhuǎn)賬、網(wǎng)上支付、手機(jī)支付等方式向指定賬戶轉(zhuǎn)款,并快速完成資金轉(zhuǎn)移,獲取非法經(jīng)濟(jì)利益。二是個(gè)人信息保護(hù)難。詐騙分子通過非法渠道竊取或購買個(gè)人信息,包括身份證信息、電話號(hào)碼、家庭住址、網(wǎng)絡(luò)賬號(hào)、銀行卡賬號(hào)等,精準(zhǔn)獲取社會(huì)上各行各業(yè)人員的個(gè)人信息,為實(shí)施詐騙構(gòu)建個(gè)人信息基礎(chǔ)數(shù)據(jù)庫。三是智能生成產(chǎn)品識(shí)別破解難。詐騙分子基于開放數(shù)據(jù)流和獲取的個(gè)人信息,使用深度合成技術(shù),篡改圖片或者視頻信息,對(duì)原始信息進(jìn)行深度偽造,獲得人工智能生成產(chǎn)品,通過“換臉”“換聲”等方式實(shí)施違法犯罪行為。因此,要堅(jiān)持目標(biāo)導(dǎo)向和問題導(dǎo)向,在全鏈路信息監(jiān)管、個(gè)人信息保護(hù)和智能生成品鑒別技術(shù)上深耕細(xì)作,建立健全政策法規(guī),切實(shí)將發(fā)展與安全相結(jié)合,持續(xù)推動(dòng)科技創(chuàng)新,不斷增強(qiáng)防詐能力。
首先,建設(shè)公共算力和算法平臺(tái)是防止詐騙的基礎(chǔ),應(yīng)研發(fā)全鏈路的信息監(jiān)管技術(shù)。一方面,政府部門牽頭建立公共算力基礎(chǔ)設(shè)施,采用安全可信的芯片、軟件和工具,統(tǒng)一收集人工智能算法、鑒別算法和檢測算法模型,形成算法數(shù)據(jù)庫,規(guī)范人工智能服務(wù)提供者預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等數(shù)據(jù)處理行為,提升算力資源利用效能。另一方面,研發(fā)可溯源的網(wǎng)關(guān)類設(shè)備監(jiān)管技術(shù),基于分類分級(jí)監(jiān)管規(guī)則,全鏈路監(jiān)管查詢、下載、使用和修改個(gè)人生物識(shí)別信息的行為。并且要提供各類已被識(shí)別的合成品,積累識(shí)別樣本,提升詐騙電話檢測、惡意網(wǎng)址攔截、詐騙文本識(shí)別和詐騙風(fēng)險(xiǎn)預(yù)警的精準(zhǔn)度。
其次,避免個(gè)人信息泄露是治理詐騙的根源,應(yīng)研發(fā)個(gè)人信息保護(hù)技術(shù)。一方面,生成式人工智能服務(wù)提供者應(yīng)對(duì)服務(wù)使用者信息的輸入和使用記錄依法履行保護(hù)義務(wù),嚴(yán)禁采集非必要個(gè)人信息,不得非法向他人提供使用者的個(gè)人信息及使用記錄,規(guī)范個(gè)人信息采集與共享行為。另一方面,采用匿名化、去標(biāo)識(shí)化技術(shù)和加密技術(shù),處理使用者個(gè)人信息,對(duì)個(gè)人信息的獲取進(jìn)行監(jiān)測,確保使用者個(gè)人同意且符合法律法規(guī)。通過虛擬私人網(wǎng)絡(luò),建立信息安全通道,規(guī)范數(shù)據(jù)傳輸、處理與存儲(chǔ)行為,監(jiān)管信息使用情況,標(biāo)注并攔截詐騙信息。
再次,鑒別生成產(chǎn)品是治理詐騙的關(guān)鍵,應(yīng)研發(fā)人工智能生成品的識(shí)別破解技術(shù)。一方面,規(guī)范人工智能合成品的制作流程,擴(kuò)大信息源取證范圍,在信息采集設(shè)備中采用水印技術(shù),對(duì)原始信息增加“數(shù)字水印”,保證源頭信息的真實(shí)性。使用區(qū)塊鏈和智能合約技術(shù),運(yùn)用數(shù)據(jù)加密、時(shí)間戳和分布式共識(shí)手段,在生成品中加入元數(shù)據(jù),實(shí)現(xiàn)去中心化信用的點(diǎn)對(duì)點(diǎn)交易與協(xié)作,完成溯源防偽。另一方面,基于遞歸神經(jīng)網(wǎng)絡(luò)和膠囊網(wǎng)絡(luò),提取空域、時(shí)域和頻域特征,通過檢測合成品的混合邊界及肉眼難辨的灰度元素,對(duì)圖像和視頻進(jìn)行反向破解,解析圖像和視頻代碼,判斷人物與場景的一致性,鑒別原始信息和合成品。
最后,建立健全政策法規(guī),增強(qiáng)公眾風(fēng)險(xiǎn)教育,對(duì)于防止生成式人工智能詐騙至關(guān)重要。一方面,政府應(yīng)制定針對(duì)生成式人工智能犯罪的法律規(guī)范,界定濫用生成式人工智能進(jìn)行詐騙的法律責(zé)任,嚴(yán)格監(jiān)管和執(zhí)法,明確處罰措施,確保公共安全不受威脅。此外,鑒于數(shù)字詐騙的特殊性,還應(yīng)加強(qiáng)國際合作,加大聯(lián)合執(zhí)法力度,打擊跨境詐騙。另一方面,政府、企業(yè)和各級(jí)教育機(jī)構(gòu)應(yīng)大力宣傳防詐知識(shí),普及人工智能技術(shù)的潛在風(fēng)險(xiǎn),提升大眾的防范意識(shí),提高識(shí)別和防詐技能。并且,應(yīng)增加對(duì)未來科技從業(yè)者的教育,使其能夠規(guī)范開發(fā)和使用人工智能技術(shù)。
生成式人工智能是一項(xiàng)前沿技術(shù),對(duì)于提升多個(gè)領(lǐng)域的生產(chǎn)效率至關(guān)重要。然而,如果不加約束地濫用,可能會(huì)成為欺詐者手中的危險(xiǎn)工具。只有通過不斷研發(fā)防詐技術(shù),采取多管齊下的管理政策,才能夠助推科技跨越式發(fā)展,有效防止生成式人工智能成為詐騙“新武器”。