近年來,隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展,個(gè)人信息安全受到前所未有的嚴(yán)峻挑戰(zhàn),各大報(bào)刊、媒體經(jīng)常曝出網(wǎng)站數(shù)據(jù)泄露事件。面對(duì)日益嚴(yán)峻的網(wǎng)絡(luò)安全問題,阿里安全專家奧創(chuàng)預(yù)測:人工智能或?qū)⒊蔀槲磥砭W(wǎng)絡(luò)安全問題的新解法。
想象一個(gè)場景:在未來世界里,出行有自動(dòng)駕駛,穿衣有AI穿搭、AI機(jī)器人,住在AI打造的智能家居空間,AI會(huì)推薦更符合你身體所需營養(yǎng)成分的食品……看起來一切都便利了很多,但你會(huì)生活得更舒心、更安全嗎?
"AI發(fā)展趨勢是一定的,但AI應(yīng)用來解決安全問題時(shí)并不能生搬硬套,需要根據(jù)實(shí)際場景進(jìn)行AI的技術(shù)升級(jí),"阿里安全圖靈實(shí)驗(yàn)室負(fù)責(zé)人、資深專家奧創(chuàng)近日接受記者采訪時(shí)表示,安全會(huì)成為未來AI開發(fā)的最大挑戰(zhàn),"基于阿里安全在內(nèi)容、新零售、知識(shí)產(chǎn)權(quán)等領(lǐng)域的對(duì)抗經(jīng)驗(yàn),我認(rèn)為'安全AI'會(huì)成為未來網(wǎng)絡(luò)安全問題的新解法,也將在2019年迎來爆發(fā)期。"
阿里首提"安全AI"概念
無人駕駛、人臉識(shí)別、智慧城市、智能家居等各類場景中都在運(yùn)用AI,但一旦后端控制系統(tǒng)被攻擊,出現(xiàn)規(guī)?;⑦B鎖式的崩盤,AI失控的后果不堪設(shè)想。
"比如,無人駕駛車要通過識(shí)別交通信號(hào)標(biāo)志來決定是通行還是停止,而攻擊者可以生成一個(gè)欺騙通行標(biāo)志的對(duì)抗樣本,在行人眼里是禁止通行,但AI系統(tǒng)會(huì)識(shí)別成允許通行,這足以造成災(zāi)難性的后果,"奧創(chuàng)表示,其原理就是通過打造精確的攻擊樣本欺騙分類器。
"事實(shí)上,現(xiàn)在已經(jīng)出現(xiàn)了數(shù)據(jù)投毒(指故意造成的數(shù)據(jù)污染)、對(duì)抗式生成網(wǎng)絡(luò)偽造人臉識(shí)別等攻擊手段,"奧創(chuàng)表示,在大量的AI技術(shù)落地之前,安全AI需要引起足夠的重視才能從源頭上防范更多的風(fēng)險(xiǎn),"在這個(gè)背景下,阿里安全提出'安全AI'的理念。"
奧創(chuàng)解釋:所謂安全AI,是指安全場景中進(jìn)化出的AI,擁有更強(qiáng)、更多元化的能力;與當(dāng)前通用AI的理念不同,阿里安全更注重在業(yè)務(wù)安全領(lǐng)域垂直縱深的技術(shù)積淀,開發(fā)出適應(yīng)更多安全場景的新一代AI,讓傳統(tǒng)的安全問題找到新的AI解法。
近期,基于問答技術(shù)、知識(shí)圖譜和對(duì)抗樣本等技術(shù)研發(fā)出的新一代AI驗(yàn)證碼,就是阿里安全在安全AI領(lǐng)域的動(dòng)作之一。這一產(chǎn)品原理是,通過AI挖掘生活常識(shí)類信息作為問答題庫,并對(duì)原始圖像有針對(duì)性的加入干擾,使得人眼識(shí)別不受影響,但會(huì)顯著降低黑產(chǎn)AI打碼的成功率。
阿里安全專家預(yù)測:安全AI將成未來網(wǎng)絡(luò)安全問題新解法
圖說:基于安全AI理念,阿里安全圖靈實(shí)驗(yàn)室推出的AI鑒黃師可識(shí)別圖片、彈幕、語音等多維度信息
再比如,用AI判定互聯(lián)網(wǎng)平臺(tái)上對(duì)于違規(guī)視頻的判定,除了計(jì)算機(jī)視覺技術(shù)之外,加入了語言、語音等多源網(wǎng)絡(luò)的設(shè)計(jì),比如視頻畫面、視頻中的語音、彈幕和交互信息等多個(gè)維度。"知識(shí)圖譜、多源網(wǎng)絡(luò)、對(duì)抗樣本等構(gòu)建出更強(qiáng)、更安全的AI技術(shù)能力,可以有效防范攻擊,降低風(fēng)險(xiǎn),"奧創(chuàng)表示。
安全AI將成網(wǎng)絡(luò)安全問題新解法
奧創(chuàng)帶領(lǐng)的阿里安全圖靈實(shí)驗(yàn)室近年來在安全AI領(lǐng)域的探索和研發(fā)已久,其成果被應(yīng)用于風(fēng)控、知識(shí)產(chǎn)權(quán)、智能云服務(wù)和新零售等商業(yè)場景,以及醫(yī)療、教育、出行等數(shù)億用戶相關(guān)的生活場景,已申請(qǐng)專利上百項(xiàng)。
未來趨勢之下,AI仍將迅猛發(fā)展,在更多商業(yè)、工業(yè)和生活場景中落地。安全AI的核心理念就是讓不可能變?yōu)榭赡?,能極大解放人力,也將成為未來網(wǎng)絡(luò)安全問題的新解法。
奧創(chuàng)認(rèn)為,2019年也將是安全AI的爆發(fā)之年,"歐盟剛剛出臺(tái)《人工智能道德準(zhǔn)則》,明確提出AI的發(fā)展方向應(yīng)該是'可信賴AI',包含安全、隱私、透明等多個(gè)方面,AI應(yīng)用正在成為一個(gè)社會(huì)問題,如何解決已經(jīng)成為各界共同關(guān)注的話題。"
阿里安全一直堅(jiān)持用技術(shù)解決社會(huì)問題,安全AI也在阿里經(jīng)濟(jì)體的多個(gè)業(yè)務(wù)場景落地。結(jié)合多年從事安全研發(fā)的經(jīng)驗(yàn),奧創(chuàng)認(rèn)為針對(duì)安全場景的AI設(shè)計(jì),極限數(shù)據(jù)情況下的模型訓(xùn)練、實(shí)現(xiàn)不同業(yè)態(tài)與場景下的模型遷移、決策場景下的模型可解釋性、強(qiáng)對(duì)抗場景下的模型安全性這四個(gè)方向?qū)⒎浅V档锰剿鳌?/p>
"以決策場景下的模型可解釋性為例,端到端的深度學(xué)習(xí)一個(gè)廣為詬病的問題是其不透明性或不可解釋性,比如說識(shí)別一張照片中的物體,機(jī)器做出是的判斷基于什么什么有效特征,我們無從得知。"奧創(chuàng)認(rèn)為,人工智能系統(tǒng)必須具有可解釋性,以便人類可以理解系統(tǒng)的行為。
"在面臨一些重大決策的情況下,比如患者被AI建議使用了某種很罕見的治療方案、無人車或無人機(jī)沒有按照既定的軌跡完成任務(wù)、或者AI被用來進(jìn)行司法判決時(shí),智能系統(tǒng)能夠給出判斷的依據(jù)甚至能夠與人類交換想法,無疑是至關(guān)重要的。"奧創(chuàng)指出。
(原標(biāo)題:阿里安全專家預(yù)測:安全AI將成未來網(wǎng)絡(luò)安全問題新解法)