在人工智能和大數(shù)據(jù)時(shí)代,公民個(gè)人信息權(quán)益的保護(hù),相較于技術(shù)發(fā)展更加脆弱,必須盡快找到可行的應(yīng)對(duì)之道。
早在3.15晚會(huì)上就曝光了手機(jī)APP的偷聽現(xiàn)象,隨著技術(shù)的提升,APP的偷聽成本越來越低。有人工智能團(tuán)隊(duì)進(jìn)行測(cè)試,僅用了不到5個(gè)小時(shí),通過程序員編寫示例代碼,模擬打造一款手機(jī)軟件,安裝在一部安卓系統(tǒng)手機(jī)中,再設(shè)置為允許該模擬軟件使用手機(jī)錄音權(quán)限,然后將手機(jī)屏幕鎖屏。
結(jié)果,該款模擬手機(jī)軟件成功獲取了該團(tuán)隊(duì)的講話內(nèi)容,并傳輸給后臺(tái)服務(wù)器轉(zhuǎn)化成文字信息。
簡(jiǎn)單來說,就是從技術(shù)層面實(shí)現(xiàn)了App鎖屏?xí)r在后臺(tái)仍可以“監(jiān)聽”用戶講話內(nèi)容。而面對(duì)數(shù)據(jù)量大,成本太高的情況。該團(tuán)隊(duì)表示可以把需要觸發(fā)的詞做個(gè)庫(kù)留在App上,用戶講話內(nèi)容一旦觸發(fā)特定的詞,便會(huì)喚醒這個(gè)應(yīng)用開始監(jiān)聽及分析,以此降低能耗。
國(guó)內(nèi)知名白帽子公司KEEN GeekPwn實(shí)驗(yàn)室宋宇昊認(rèn)為,APP完全可以將麥克風(fēng)聽到的語(yǔ)音在上傳之前先轉(zhuǎn)換成文字,這已經(jīng)是很成熟的技術(shù)。然后通過在文本里提取關(guān)鍵詞發(fā)送云端,在云端分析文本特征,并和用戶身份關(guān)聯(lián),給你精準(zhǔn)畫像,在大數(shù)據(jù)時(shí)代,這些技術(shù)都是相當(dāng)成熟的。實(shí)際上,通過App語(yǔ)音輸入的方式,在本地將語(yǔ)音轉(zhuǎn)換成文字,上傳的只是幾個(gè)標(biāo)簽,完全不存在大數(shù)據(jù)量的問題。
“將一個(gè)人一天講的話處理成文本,也只有幾頁(yè)紙。如果采用關(guān)鍵詞喚醒,數(shù)據(jù)量還會(huì)大大降低。將語(yǔ)音處理成文本的技術(shù)并不高級(jí),現(xiàn)在很多輸入法都能做到。”
邊緣計(jì)算進(jìn)步“偷聽”成本還將降低
一位大數(shù)據(jù)技術(shù)專家表示,邊緣計(jì)算可以解決傳輸成本、存儲(chǔ)成本及云端搜索等問題,但技術(shù)難點(diǎn)在于離線計(jì)算的準(zhǔn)確率。
這并非憑空猜測(cè)。據(jù)上述專家介紹,在車險(xiǎn)行業(yè),車險(xiǎn)服務(wù)商已經(jīng)推出基于駕駛行為的保險(xiǎn),通過內(nèi)置攝像頭的行車記錄儀和邊緣計(jì)算+面部圖像識(shí)別技術(shù),系統(tǒng)能夠捕捉駕駛員打哈欠、閉眼、打電話、抽煙等異常動(dòng)作,這些數(shù)據(jù)都將用來做車險(xiǎn)的風(fēng)控模型,比如保險(xiǎn)人的保費(fèi)測(cè)算,而數(shù)據(jù)源是車內(nèi)攝像頭拍下的視頻,通過邊緣計(jì)算,可以大大降低數(shù)據(jù)上傳量。
近兩年,AI手機(jī)概念漸成主流,隨著手機(jī)的算力越來越強(qiáng),計(jì)算都邊緣化了,不需要云端計(jì)算的過多參與,那么,“偷聽”這種技術(shù)成本就越來越低了,而且這個(gè)未來并不遙遠(yuǎn),“在現(xiàn)在的終端成本上再增加1000元左右,就能支持邊緣計(jì)算。”一位技術(shù)專家如此道。
人工智能算法亦能“偷聽”用戶信息
人工智能(AI)算法是否可以“偷聽”你的信息?對(duì)于這樣的疑問,許多人恐怕還半信半疑,難以給出確定答案。但劍橋大學(xué)的一項(xiàng)最新研究卻表明:這是很有可能的。
“偷聽”的原理是:當(dāng)人們輕敲手機(jī)和平板電腦的屏幕時(shí)會(huì)產(chǎn)生聲波。這些聲波通過設(shè)備的內(nèi)置麥克風(fēng)收集、恢復(fù),從而就可“聽到”敲擊屏幕的聲音。結(jié)合人工智能算法,聽到的聲音與鍵盤位置關(guān)聯(lián),就可實(shí)現(xiàn)“偷聽”用戶信息。
開展這項(xiàng)研究的劍橋大學(xué)計(jì)算機(jī)實(shí)驗(yàn)室用其自己開發(fā)的算法模型進(jìn)行了實(shí)驗(yàn),結(jié)果表明,對(duì)于四位數(shù)密碼而言,該模型在10次嘗試后可以準(zhǔn)確恢復(fù)54%的密碼;20次嘗試后可以恢復(fù)150個(gè)密碼中的91個(gè),識(shí)別準(zhǔn)確率為61%。
該項(xiàng)研究的論文于3月26日發(fā)表,題目就叫《聽到你的觸摸:智能手機(jī)上的新聲學(xué)側(cè)通道》。
更令人擔(dān)憂的是,現(xiàn)在智能家居市場(chǎng)興起的同時(shí),涌現(xiàn)出了一批又一批被聲音控制的產(chǎn)品和控制產(chǎn)品的軟件。它們是否在竊取你的隱私呢?
以普及較高的產(chǎn)品為例
幾年來,每當(dāng)用戶使用智能音箱開燈或鎖門時(shí),亞馬遜和谷歌都在收集數(shù)據(jù)?,F(xiàn)在,它們要求羅技(Logitech)、亨特風(fēng)扇公司(Hunter Fan Co.)等智能家居產(chǎn)品制造商持續(xù)發(fā)送用戶信息給自己。
換句話說,當(dāng)用戶把一個(gè)燈具連接到Alexa(亞馬遜語(yǔ)音助手)之后,不論是否通過Alexa完成開關(guān)燈的指令,凡是在燈上所作的開關(guān)操作,都是亞馬遜想要收集的數(shù)據(jù)。同樣的,電視必須報(bào)告頻道設(shè)置。智能鎖必須隨時(shí)報(bào)告門鎖是否鎖上。
相比于智能手機(jī)地理定位軟件時(shí)刻跟蹤用戶、或是Facebook根據(jù)用戶活動(dòng)提取大量個(gè)人數(shù)據(jù),上文這些信息搜集可能顯得平淡無奇。但即使是像燈泡這樣簡(jiǎn)單的小玩意,也能讓科技公司獲取客戶信息,并將數(shù)據(jù)用于營(yíng)銷目的。批評(píng)者說,科技公司已經(jīng)積聚了大量公共領(lǐng)域活動(dòng)的數(shù)字記錄,現(xiàn)在它們正致力于在“家庭內(nèi)”建立根據(jù)地。
智能手機(jī)與智能家居在被AI加持的不法分子的手中像是一張無孔不入的羅網(wǎng),將你我的個(gè)人隱私都網(wǎng)羅其中。
扎緊技術(shù)倫理和法律籬笆
在技術(shù)已經(jīng)允許的現(xiàn)下,懷疑“偷聽”不啻為一聲響亮的警鐘,它再次對(duì)我們發(fā)出警示:在人工智能和大數(shù)據(jù)時(shí)代,公民個(gè)人信息權(quán)益的保護(hù),相較于技術(shù)發(fā)展更加脆弱,必須盡快找到可行的應(yīng)對(duì)之道。
同時(shí),對(duì)以“進(jìn)步”為名的技術(shù)發(fā)展,我們也必須保持高度警惕和懷疑,并時(shí)刻從人類尊嚴(yán)和技術(shù)倫理的高度詳加審視。這是必要的審慎,絕不是螳臂當(dāng)車的保守,因?yàn)槟贫稍缇驼f得非常清楚——如果事情有變壞的可能,不管這種可能性有多小,它總會(huì)發(fā)生,并造成最大可能的破壞。
“偷聽”有可能發(fā)生嗎?劍橋大學(xué)的研究已經(jīng)表明:肯定會(huì)的。雖然囿于技術(shù)的局限,目前尚無法偷聽得那樣精確。但假以時(shí)日,人工智能算法裝備的智能手機(jī)、智能家居等設(shè)備,肯定會(huì)把人“偷”得赤條條。而以技術(shù)發(fā)展在當(dāng)今的迅猛之勢(shì),這個(gè)時(shí)日其實(shí)并不多么遙遠(yuǎn)。
我們已清楚地看到“灰犀牛”就在那里,它正在向我們沖來??墒浅鲇跓o數(shù)的利益計(jì)算和猶疑,人類就是找不到切實(shí)的預(yù)防、應(yīng)對(duì)之策。
這正是我們當(dāng)前面臨的惱人困惑。對(duì)于公民個(gè)人信息安全,目前能夠想到的辦法,無外乎以繁多的法律法規(guī)條款,盡可能扎緊籬笆,同時(shí)加大懲處力度。但這種辦法,受制于差異極大的文化環(huán)境和執(zhí)法力度,常常很難從紙面上真正落地。
而更加薄弱的是,技術(shù)倫理明顯還未受到應(yīng)有的重視,更缺乏現(xiàn)實(shí)的灌輸培育。很多科技者僅僅醉心于技術(shù)突破,由于和遠(yuǎn)端的技術(shù)應(yīng)用者以及被影響者相隔著明顯距離,他們幾乎不可能感受到技術(shù)發(fā)展可能帶來的麻煩與痛苦。對(duì)于“偷聽”的懷疑,其實(shí)恰恰反證了技術(shù)倫理的缺位可能帶來的問題。
人工智能、大數(shù)據(jù)是當(dāng)今社會(huì)發(fā)展的趨勢(shì),沒有任何力量能夠阻止它們前進(jìn)的步伐。我們認(rèn)可并且也愿意享受這樣的進(jìn)步,但前提條件是,它們應(yīng)是為人類服務(wù),而不是羞辱、奴役人類。