本文來自微信公眾號“ACT工業(yè)AI”。
根據(jù)Gartner公司的預(yù)測，到2026年，30%的企業(yè)將因為人工智能（AI）生成的人臉生物識別深度偽造攻擊而認(rèn)為此類身份認(rèn)證和驗證解決方案不再能夠起到可靠的作用。
Gartner研究副總裁Akif Khan表示：“過去十年在AI領(lǐng)域出現(xiàn)的幾個拐點使創(chuàng)建合成圖像成為了可能。這些人工生成的真實人臉圖像被稱為深度偽造，惡意行為者可利用這個手段騙過生物識別身份驗證或令其失效。其后果是，企業(yè)可能會因為身份認(rèn)證和驗證解決方案無法分辨被驗證者的臉是真人還是深度偽造，而開始質(zhì)疑它們的可靠性。”
目前，使用人臉生物識別技術(shù)的身份認(rèn)證和驗證流程依賴于呈現(xiàn)攻擊檢測（PAD）評估用戶的真實性。Khan表示：“數(shù)字注入攻擊已經(jīng)開始利用目前能夠通過AI生成的深度偽造，而當(dāng)前定義和評估PAD機(jī)制的標(biāo)準(zhǔn)與測試流程并未涵蓋此類攻擊。”
Gartner的研究表明，雖繞呈現(xiàn)攻擊是最常見的攻擊載體，但注入攻擊（IAD）在2023年增長了200%。為防范此類攻擊，需要結(jié)合使用PAD、IAD與圖像檢測。
通過結(jié)合使用IAD與圖像檢測工具減少深度偽造威脅
為幫助企業(yè)防范能夠騙過人臉生物識別技術(shù)的AI生成深度偽造威脅，首席信息安全官（CISO）與風(fēng)險管理領(lǐng)導(dǎo)人必須選擇能夠證明自己具備超越當(dāng)前標(biāo)準(zhǔn)的能力和計劃，并且正在對這些新型攻擊進(jìn)行監(jiān)視、分類和量化的廠商。
Khan表示：“企業(yè)應(yīng)該與專門投資于使用IAD和圖像檢測技術(shù)減少這種新型深度偽造威脅的廠商合作，開始制定最低的控制標(biāo)準(zhǔn)。”
在制定戰(zhàn)略和最低標(biāo)準(zhǔn)后，CISO和風(fēng)險管理領(lǐng)導(dǎo)人必須添加設(shè)備識別、行為分析等額外的風(fēng)險和識別信號，以便提高檢測到身份驗證流程受到攻擊的幾率。
最重要的是，負(fù)責(zé)身份和訪問管理的安全與風(fēng)險管理領(lǐng)導(dǎo)人應(yīng)該行動起來，通過選擇能夠驗證真人的技術(shù)和落實防止賬戶接管的措施來降低AI深度偽造攻擊所帶來的風(fēng)險。
