人工智能是把雙刃劍，既有利，也有弊。人工智能時(shí)代的到來改變了我們的生產(chǎn)和生活方式，給我們的生活帶來了便利，與此同時(shí)，人工智能安全問題也隨之而來。那么，在這個(gè)機(jī)遇與挑戰(zhàn)共存的時(shí)代,我們?nèi)绾慰创徒鉀Q人工智能的安全問題呢?
360智能安全研究院院長(zhǎng)李康認(rèn)為,智能和安全已經(jīng)在安全這個(gè)領(lǐng)域?qū)购芏嗄炅?包括病毒檢測(cè)、垃圾郵件、釣魚軟件等問題一直都存在,各種機(jī)器學(xué)習(xí)算法的對(duì)抗,在過去也一直都在發(fā)生?，F(xiàn)在被各界廣泛關(guān)注的熱點(diǎn)問題,在安全領(lǐng)域中其實(shí)都是老問題,而且會(huì)一直存在。
與此同時(shí),隨著很多新的人工智能應(yīng)用的出現(xiàn),還會(huì)出現(xiàn)新的安全問題。李康舉例說,例如一個(gè)水平不高的程序員,過去做數(shù)據(jù)庫(kù)傳輸曾出現(xiàn)了脫庫(kù)問題,現(xiàn)在去寫人工智能程序、寫區(qū)塊鏈程序依然會(huì)出現(xiàn)問題,“安全對(duì)抗應(yīng)該是安全領(lǐng)域永恒的一個(gè)主題。”
小米科技首席安全官陳洋認(rèn)為:“我們完全沒有必要恐懼AI帶來的安全問題。因?yàn)榘踩肋h(yuǎn)是一個(gè)不斷攻防的過程。問題暴露了,我們解決了問題,就安全了。”他舉例說,比如解鎖,最開始是輸入密碼,只要?jiǎng)e人在旁邊瞄一眼就可以看到,只是大家“視而不見”而已。通過AI技術(shù)賦能,手機(jī)通過攝像頭能識(shí)別“你是你”后解鎖,帶來了很多方便。隨之而來安全問題出現(xiàn)了,用一個(gè)照片、一個(gè)視頻就能去解鎖。“我們用AI去實(shí)現(xiàn)人臉解鎖的同時(shí),我們也用AI進(jìn)行攻防。怎么樣去做人臉解鎖呢?最開始我們要訓(xùn)練AI怎么樣能夠認(rèn)出‘他是他’,先把人區(qū)分出來。第二步,對(duì)AI進(jìn)行識(shí)別黑樣本的訓(xùn)練,讓AI通過大量的黑樣本學(xué)習(xí)到非活體的破解手段。”陳洋解釋說,“AI既可以用于產(chǎn)品,也可以用于對(duì)產(chǎn)品的安全性進(jìn)行提升,還有很多時(shí)候可以用于檢測(cè)非法的攻擊等等。因此,AI在安全領(lǐng)域也是有非常多的應(yīng)用場(chǎng)景的。”
“我們要像呵護(hù)自己的孩子一樣去呵護(hù)智能硬件。”阿里巴巴安全部資深總監(jiān)陸全如是說,并解釋說,第一,現(xiàn)在所謂智能就是數(shù)據(jù)驅(qū)動(dòng),人們給它什么數(shù)據(jù)它就學(xué)什么。第二,人工智能代表未來的生產(chǎn)力,不能因噎廢食,因?yàn)閼峙逻@個(gè)人工智能而不去做研究。第三,隨著智能的發(fā)展,以后它就不會(huì)再像現(xiàn)在那樣易于被人攻擊了。
在百度首席安全科學(xué)家韋韜看來,AI的應(yīng)用不可能因?yàn)榇嬖诎踩[患就推遲到來,因?yàn)?ldquo;AI的應(yīng)用如洪水般涌來。”他進(jìn)一步解釋說,大部分產(chǎn)業(yè)里都是這種情況,在技術(shù)突飛猛進(jìn)的時(shí)候,很少有人會(huì)考慮安全問題。“我們現(xiàn)在感覺到的是非常強(qiáng)的緊迫感?，F(xiàn)在AI在各個(gè)領(lǐng)域推進(jìn)的速度之快是超乎大家想象的,前兩年IT業(yè)界的人還不知道深度學(xué)習(xí)是什么,今年都在談深度學(xué)習(xí)能做什么。” 韋韜說,“我們看到在一些典型應(yīng)用場(chǎng)景之下,存在極其嚴(yán)峻地對(duì)安全和隱私的威脅。而且這個(gè)威脅已經(jīng)不再是一個(gè)可能的風(fēng)險(xiǎn),而是一個(gè)現(xiàn)實(shí)的威脅。比如像智能音箱和智能家居的設(shè)備,當(dāng)它的安全出現(xiàn)問題的時(shí)候,用戶的隱私直接面臨非常嚴(yán)重的威脅。這個(gè)破壞能力超出了前兩年手機(jī)安全問題的破壞能力,完全埋伏在用戶的周圍,用戶想逃都逃不掉。”
對(duì)于“還是孩子的AI”,韋韜認(rèn)為,既然大家已經(jīng)對(duì)“這個(gè)孩子”寄予了非常大的期望,那么就要讓“這個(gè)孩子”做很多“成人”都做不好的事情。“大家都知道沒有哪個(gè)安全產(chǎn)品是絕對(duì)萬無一失的,都要做防御體系。過去某一條防線被攻破以后,后面還有補(bǔ)救機(jī)會(huì)的。但是在無人車上是幾乎沒有補(bǔ)救機(jī)會(huì)的。”韋韜說,“我們要做很多工作,以能夠在安全上有新的突破,把以前在‘沙灘’上建立的‘城堡’的地基重新夯實(shí)。”
長(zhǎng)虹信息安全燈塔實(shí)驗(yàn)室首席科學(xué)家唐博說,對(duì)于智能設(shè)備廠商來說,AI促進(jìn)了產(chǎn)品效能的提高,促進(jìn)了用戶使用體驗(yàn)的提升。同時(shí)會(huì)帶來一些安全問題,也是預(yù)料之中的。唐博認(rèn)為:“就AI和安全之間的關(guān)系來講,我們可以把它看作三個(gè)發(fā)展階段。第一個(gè)階段,用AI的方法可以解決一些安全的問題,可以用AI的方法來識(shí)別攻擊,可以通過大數(shù)據(jù)分析,分析流量和終端的一些情況,來識(shí)別一些異常流量或者一些攻擊的行為。第二個(gè)階段,是用安全來保護(hù)人工智能,同時(shí)保護(hù)隱私。 第三個(gè)階段,在智能設(shè)備的安全性達(dá)到一定程度的時(shí)候,AI會(huì)有更大的發(fā)展,到時(shí)候可能會(huì)出現(xiàn)跨界甚至跨平臺(tái)的AI應(yīng)用,效率會(huì)得到更大的提升。AI、安全和效率三者之間是一個(gè)相輔相成的發(fā)展過程。”
泰爾終端實(shí)驗(yàn)室副主任馬鑫認(rèn)為,任何技術(shù)本沒有對(duì)錯(cuò)之分,只有先進(jìn)落后之分。AI不像其他技術(shù),其他技術(shù)像潮水,AI像海嘯。今年上半年AI撲面而來,所有的領(lǐng)域、所有的行業(yè)都在說AI。AI是一個(gè)大系統(tǒng),是一個(gè)有很大賦能作用的技術(shù),軟件越復(fù)雜,它的安全點(diǎn)越需要被關(guān)注。在整個(gè)技術(shù)研究過程中,發(fā)展和安全之間的問題是需要平衡的。要考慮AI應(yīng)用的場(chǎng)景,有些產(chǎn)品應(yīng)用場(chǎng)景比較簡(jiǎn)單,它的安全性比較容易能夠得到滿足或者得到保障。在AI應(yīng)用比較復(fù)雜的情況下,更需要安全性的保障和研究。“有一個(gè)底線應(yīng)該成為共識(shí),當(dāng)某項(xiàng)技術(shù)涉及或者威脅到人身生命財(cái)產(chǎn)安全的時(shí)候,這項(xiàng)技術(shù)的應(yīng)用就應(yīng)該放到安全之后去考慮。”
（原標(biāo)題：共話人工智能時(shí)代安全問題）
