人工智能來到你身邊!安全和隱私如何保護(hù)?

AI研究院 
佚名
【編者按】在國外,當(dāng)Facebook開始將手伸向旗下WhatsApp的用戶數(shù)據(jù)時(shí),當(dāng)Google推出了智能聊天應(yīng)用Allo時(shí),都受到了侵犯用戶隱私的譴責(zé)。相反,當(dāng)人工智能在國內(nèi)被捧上風(fēng)口時(shí),卻沒多少人預(yù)先關(guān)心類似技術(shù)和產(chǎn)品...

【編者按】在國外,當(dāng)Facebook開始將手伸向旗下WhatsApp的用戶數(shù)據(jù)時(shí),當(dāng)Google推出了智能聊天應(yīng)用Allo時(shí),都受到了侵犯用戶隱私的譴責(zé)。相反,當(dāng)人工智能在國內(nèi)被捧上風(fēng)口時(shí),卻沒多少人預(yù)先關(guān)心類似技術(shù)和產(chǎn)品對(duì)個(gè)人隱私的侵害。

世界上一些最知名的企業(yè)已經(jīng)在信息安全方面投入了數(shù)百萬美元。當(dāng)然,他們的對(duì)手也是如此。但一些有惡意的人卻希望你的防御系統(tǒng)主要是由人類操控的,而且所有的防御系統(tǒng)的操控方式都是一樣的。

當(dāng)你搬家時(shí),你會(huì)換鎖還是和你所有的鄰居使用共享鎖?試想一下,如果小偷僅僅知道了一個(gè)共享鎖的密碼,將會(huì)發(fā)生什么呢?出于某種原因,信息安全的世界有一種相同的鎖定心態(tài)。一些“顧客”是有惡意的人,他們費(fèi)盡力氣想去侵犯他人的財(cái)產(chǎn)安全??紤]到這種情況,即便各個(gè)企業(yè)投入了大量資金,安全防護(hù)仍會(huì)失敗,對(duì)于這樣的結(jié)果我們也就不應(yīng)感到驚訝。

要想網(wǎng)絡(luò)防御者有機(jī)會(huì)贏得勝利,我們就必須開始公平競(jìng)爭。供應(yīng)商將他們的安全產(chǎn)品的相關(guān)副本分發(fā)給客戶,只是因?yàn)檫@個(gè)方式對(duì)他們來說很容易,而不是因?yàn)檫@個(gè)行為對(duì)他們的客戶更好。

一個(gè)反病毒公司應(yīng)該為每個(gè)惡意軟件樣本生成多少個(gè)變種?所有基于主機(jī)的人工智能(AI)防御都能在病毒環(huán)境中學(xué)習(xí)嗎?在過去,為每個(gè)企業(yè)定制這些方案是不可行的。幸運(yùn)的是,網(wǎng)絡(luò)安全研究逐漸出現(xiàn)了一些新的技術(shù),它們可以為每一個(gè)客戶提供獨(dú)特的病毒檢測(cè)軟件,這些技術(shù)可以幫助維護(hù)公平競(jìng)爭環(huán)境,甚至有助于企業(yè)在商業(yè)競(jìng)爭中取勝。

這些新興技術(shù)廣泛地出現(xiàn)在人工智能和機(jī)器學(xué)習(xí)領(lǐng)域。任何人工智能系統(tǒng)的核心都是學(xué)習(xí)能力。一些人工智能解決方案從本地環(huán)境中學(xué)習(xí),而另一些則從全局環(huán)境中學(xué)習(xí)。那些能夠勝出的是那些利用只存在于客戶的網(wǎng)絡(luò)環(huán)境中的數(shù)據(jù),并產(chǎn)生一種針對(duì)該環(huán)境的移動(dòng)防御類型的數(shù)據(jù),根據(jù)這些數(shù)據(jù)建立起某種或全部的威脅探測(cè)能力的企業(yè)。其中包括:

一種是實(shí)質(zhì)上不同于當(dāng)前企業(yè)之間的防御方式;

一種是隨著時(shí)間的推移,它會(huì)隨著環(huán)境的變化而不斷演變的防御方式;

最重要的一種是,防御系統(tǒng)不會(huì)讓攻擊者事先知道,并且他們斷定攻擊者一定會(huì)失敗。

類似于在密碼中再次套入密碼有助于保護(hù)信息不受損害,部署網(wǎng)絡(luò)安全解決方案,利用網(wǎng)絡(luò)環(huán)境將其與其他所有副本區(qū)別開來,有助于保護(hù)企業(yè)。

使用人工智能系統(tǒng)建立一個(gè)移動(dòng)防御系統(tǒng)

人工智能可以使用數(shù)千個(gè)特征來判斷網(wǎng)絡(luò)中的內(nèi)容是否有惡意,或者用戶或系統(tǒng)行為是否異常。每一個(gè)特征都只提供了一個(gè)小的證據(jù)來判斷是否有病毒。

但是這只有在復(fù)雜的組合中才有用。機(jī)器學(xué)習(xí)算法通過專門一段時(shí)間的訓(xùn)練,試圖找出如何結(jié)合特征來產(chǎn)生準(zhǔn)確的洞察和預(yù)測(cè)。

根據(jù)每個(gè)人工智能系統(tǒng)的方法,培訓(xùn)數(shù)據(jù)可以來自當(dāng)?shù)丨h(huán)境、全球環(huán)境或兩者的混合。然而,與傳統(tǒng)方法不同的是,所得到的模型從來都不是基于簡單的規(guī)則或易于理解的模式。這些模型的自然不透明以及它們的動(dòng)態(tài)構(gòu)造為有效的移動(dòng)防御提供了基礎(chǔ)。

你可以通過調(diào)整訓(xùn)練集或時(shí)間來改變?nèi)斯ぶ悄苣P汀n~外的培訓(xùn)數(shù)據(jù)是否只是簡單地添加或用來替換老的培訓(xùn)數(shù)據(jù)并不重要,因?yàn)榻Y(jié)果是一樣的。

新的模型使用現(xiàn)有的功能或使用全新的功能被創(chuàng)造出來。在人工智能和機(jī)器學(xué)習(xí)方面,量身定制的檢測(cè)解決方案的成本是可以忽略不計(jì)的。然而,必須有一個(gè)解決方案提供者來啟用這種方法。一些使用機(jī)器學(xué)習(xí)和人工智能的網(wǎng)絡(luò)安全供應(yīng)商仍然在以傳統(tǒng)方式部署他們的模型,而不會(huì)利用本地?cái)?shù)據(jù)來調(diào)整他們的解決方案。當(dāng)然,移動(dòng)防御也面臨挑戰(zhàn),不僅僅是那些會(huì)繼續(xù)試圖打敗它們的惡意行為者所帶來的挑戰(zhàn)。最重大的挑戰(zhàn)是如何確保定制解決方案的平價(jià)問題。沒有人想要“第二好的”檢測(cè)模型。必須注意的是,任何技術(shù)在實(shí)際應(yīng)用過程中都會(huì)產(chǎn)生一種具有統(tǒng)計(jì)意義的模型,在所有定制的變量中,檢測(cè)精度和誤差幾乎是一致的。

很難找到比移動(dòng)防御更好的安全概念。“改變你的鎖”是最完美的安全建議之一。然而,在網(wǎng)絡(luò)安全領(lǐng)域,有些鎖比其他鎖更容易改變。

THEEND