圖片來源@視覺中國
當(dāng)AI技術(shù)正在帶來欣欣向榮的智能產(chǎn)業(yè)之時,我們有感于AI可以應(yīng)用的范圍之廣,也感慨于AI普及速度之快。這其中一個非常重要的原因,就在于AI的開發(fā)門檻在大幅降低。
驕陽之下,必生陰影。當(dāng)AI正在進(jìn)入尋常百姓家的同時,AI技術(shù)也可能在那些不法之徒手中變身惡龍,釋放規(guī)模更大、后果更嚴(yán)重的人性之惡。
還記得去年那個可以“一鍵脫衣”的DeepNude軟件么,因為觸犯用戶隱私也觸及道德底線而在爆火之后被馬上禁止。但這項技術(shù)卻被很多人盯上,也給了很多黑產(chǎn)以靈感。
據(jù)報道,最近一個DeepNude2.0版本的應(yīng)用程序在Telegram APP上出現(xiàn),同樣也是主打“一鍵脫衣”的功能。與1.0版本有一定技術(shù)門檻不同的是,原先還需要用戶安裝完整軟件和完整的神經(jīng)網(wǎng)絡(luò)框架,做好設(shè)置調(diào)試等操作才能得到一張“裸照”,而現(xiàn)在只需從手機(jī)里上傳一張照片,不需要任何技術(shù)和專門的硬件支持,就能把照片中的目標(biāo)“一鍵脫衣”。
據(jù)發(fā)現(xiàn)這一軟件的安全公司稱,當(dāng)時已經(jīng)產(chǎn)生了至少68萬名女性的“假裸照”,這意味著大量普通人正在遭受AI所帶來的隱私和名譽(yù)的危害。受害者的“照片”不僅有可能被不法分子用來牟利,如果同時泄露更多社交信息,還有潛在的勒索威脅。
我們不得不面對AI在應(yīng)用中的這一問題:“AI for Good”還是“AI for Evil”,更為復(fù)雜的是,一些AI技術(shù)應(yīng)用,比如人臉識別,也正陷入到了新的博弈困境,比如,人臉識別技術(shù)能否成為普通人對抗強(qiáng)者的工具,還是說,這些AI應(yīng)用必須徹底禁止就行?
這恐怕并不容易能夠立刻做出回答。
人臉識別,反過來對準(zhǔn)了執(zhí)法者
“我們正在逼近小人物也能對付大人物的技術(shù)門檻。”
這是下面事件里的開發(fā)者的立場。他所指的技術(shù)正是人臉識別。而事件的起因是,今年因為非裔男子佛洛依德之死所引發(fā)的全美大抗議。
事件之后,美國俄勒岡州波特蘭市爆發(fā)了持續(xù)數(shù)月的抗議游行,聯(lián)邦特工和波特蘭警方加入到曠日持久的阻擊和鎮(zhèn)壓當(dāng)中。從之前的新聞看來,警方不僅使用了催淚瓦斯,甚至在沖突后出現(xiàn)了槍擊,一人因槍擊死亡的事件。
一名參與了持續(xù)抗疫的開發(fā)者Christopher Howell則堅持認(rèn)為,“我們必須明確責(zé)任,需要知道事件中誰做了什么。”他所指的就是要對警方身份進(jìn)行識別和行為進(jìn)行確認(rèn)。
Howell是一個熟悉神經(jīng)網(wǎng)絡(luò)算法的開發(fā)者,他們當(dāng)時正好也拍攝了很多警察執(zhí)法的照片。為了防止濫用警力,或警察違規(guī)執(zhí)法,原本警員制服上的名字可以告訴公眾人們他們的身份,但是在這場示威游行中,波特蘭市警察局允許了身穿制服的警察可以遮擋住自己的名字。
因此,Howell才使用了人臉識別技術(shù),連同政府官網(wǎng)、社交媒體和新聞報道中搜集到的警員照片,來辨認(rèn)這些執(zhí)法警察。
而幾乎同時,9月初波特蘭市議會開始公開討論,是否出臺一項立法以全面禁止使用人臉識別技術(shù),該法案將主要禁止警員利用摘下抗議者面罩或者用監(jiān)視攝像頭拍下并識別這些人的身份,也阻止企業(yè)和其他組織使用該技術(shù)識別未知人員的身份。
該法案征求意見期間,Howell反映了他用人臉識別技術(shù)來識別波特蘭警員的事情,這件事讓波特蘭官方感到非常不爽。經(jīng)過討論,該法案也得到了市議會的通過,但Howell個人可以繼續(xù)開展該項目。
這確實出人意料。代表執(zhí)法者的官方被禁止使用人臉技術(shù)來對準(zhǔn)民眾,而民眾個人則有權(quán)利用人臉識別技術(shù)來對抗執(zhí)法者。
Howell的做法并非孤例。原本執(zhí)法部門可以通過政府?dāng)?shù)據(jù)庫中的照片或者通過人臉識別技術(shù)公司Clearview AI從公共互聯(lián)網(wǎng)中獲得的照片,來利用人臉識別技術(shù)發(fā)現(xiàn)犯罪分子,而現(xiàn)在一些激進(jìn)人士反過來用這一技術(shù)對付執(zhí)法部門,用來揭露行為不當(dāng)?shù)膱?zhí)法人員的身份。
去年,一名抗議者Colin Cheung試圖通過警員在網(wǎng)上的照片來識別其身份,因為其在Facebook公開發(fā)布了該項目的視頻而被捕。
白俄羅斯的一個技術(shù)專家則通過YouTube演示了如何使用人臉識別技術(shù)來識別那些暴力執(zhí)法的蒙面警察,其過程也是通過社交媒體上的警員照片進(jìn)行對比而獲得。當(dāng)然,這位專家已經(jīng)逃到了美國洛杉磯。
通過Howell的案例我們看到,只要具有一定AI開發(fā)經(jīng)驗的普通人,都可以利用那些開放的圖像識別軟件,進(jìn)行人臉識別技術(shù)的開發(fā),比如Howell就用了谷歌的TensorFlow,幫助他構(gòu)建機(jī)器學(xué)習(xí)模型。
這就是技術(shù)門檻降低帶給“小人物對抗大人物”的底氣。但是這樣真的好嗎?
濫用人臉識別:一場無人勝出的博弈
我們知道,波特蘭市議會出臺的這一項禁止政府使用人臉識別技術(shù)的法律,其根源正是來自于今年6月在全美開啟的一項關(guān)于“人臉識別技術(shù)是否要禁止”的大爭論。
為聲援全美掀起的“BLM”(黑命貴)抗議活動,微軟、IBM、亞馬遜為代表的科技企業(yè)紛紛表示拒絕向美國警方提供人臉識別技術(shù)服務(wù),其中IBM公司直接宣稱放棄人臉識別業(yè)務(wù),激進(jìn)可見一般。6月底,美國計算機(jī)協(xié)會(ACM)的技術(shù)政策小組呼吁,以記錄在案的種族和性別偏見為由,公開敦促美國立法者立即中止企業(yè)和政府部門使用人臉識別。
其實,在此之前,舊金山、波士頓等城市都以性別偏見和錯誤識別為由,已經(jīng)禁止使用人臉識別技術(shù)用于警察執(zhí)法。而現(xiàn)在,美國參眾兩院的議員推動,美國多個州的地方議會和政府也開始相繼討論和禁止用于執(zhí)法的人臉識別技術(shù)。
雖然警方的人臉識別的軟件之前存在缺陷,出現(xiàn)過錯誤識別和逮捕嫌疑人的情況,但是技術(shù)的問題似乎應(yīng)該通過改進(jìn)技術(shù)來解決,現(xiàn)在為了政治正確,他們把這項技術(shù)也直接推翻。
而另一面,我們也看到,小人物也獲得了對付大人物的“屠龍術(shù)”。激進(jìn)抗議者為了獲得警察的身份數(shù)據(jù)也可謂是不遺余力。
在引入人臉識別技術(shù)之前,一些反監(jiān)視組織采取了眾包的辦法,就是依靠網(wǎng)絡(luò)用戶去識別那些有警察暴力執(zhí)法視頻中的警員身份,或者直接上傳穿制服的警員照片,最后通過那些可以搜索到的記錄執(zhí)法人員的公共數(shù)據(jù)庫,來找到警員的姓名、徽章編號。
現(xiàn)在,這些開源的數(shù)據(jù)庫正在成為像Howell這樣的開發(fā)者獲得警員身份照片的途徑,而人臉識別技術(shù)又能快速判定現(xiàn)在執(zhí)法行動中警員的身份。
這當(dāng)然是給受到暴力執(zhí)法之苦的民眾予以起訴這些執(zhí)法警員的有利途徑,但是同時人臉識別技術(shù)的應(yīng)用有可能導(dǎo)致被更激進(jìn)的人員濫用。因為這些警員也會有私人生活,也會攜帶家人和孩子出行。一旦有些人可以使用這一工具追蹤這些警員,那么很可能讓這些警員和家人處在更加危險的境地。
普通民眾擔(dān)心官方濫用人臉識別技術(shù),因為錯誤識別和種族偏見而蒙受不公待遇,而現(xiàn)在執(zhí)法者卻因為可能濫用的人臉識別技術(shù),被激進(jìn)者跟蹤或報復(fù)。
為了凸顯這一矛盾,最近一個法國藝術(shù)家Paolo Cirio在網(wǎng)絡(luò)發(fā)起了一個名為“Capture”的展覽活動,公布了1000張法國警員的臉部照片,這是從互聯(lián)網(wǎng)和一些參加抗議活動的攝影師那里獲得的照片。他匯總了這些照片之后,聲稱這是開發(fā)一款人臉識別應(yīng)用程序的第一步。
緊接著,他就收到了來自法國內(nèi)政部的壓力,隨即他撤下了照片。這位藝術(shù)家的立場恰恰是要禁止人臉識別。他希望官方能夠意識到人臉識別技術(shù)帶給人們的壓力,無論是民眾還是執(zhí)法者。而現(xiàn)在官方的做法只是在解決“提出問題的人”,而非去解決問題。
那么,人臉識別技術(shù)就在這樣的沖突中真的無解了嗎?
濫用無解,合規(guī)有道
正如人類幾乎難以阻止AI技術(shù)被用于色情、黑產(chǎn)等灰色地帶,我們也不應(yīng)因噎廢食地放棄AI技術(shù)用于正常的日常社會生產(chǎn)生活當(dāng)中。
現(xiàn)在我們看到,人臉識別技術(shù)已經(jīng)廣泛應(yīng)用到面部解鎖、身份認(rèn)證、面部支付、門禁、通行、安防等領(lǐng)域,不僅給個人生活帶來極大的便利,也給社會環(huán)境提供了更為安全的保障。正如亞馬遜的表態(tài)一樣,他們并未放棄人臉識別技術(shù),而且還會在找尋失蹤兒童上面跟政府進(jìn)行合作,而微軟也希望在聯(lián)邦政府出臺更為嚴(yán)格的監(jiān)管法律之后再重新合作。
當(dāng)然,人臉識別技術(shù)在危及隱私和身份信息安全方面也一直被人們所詬病。
不過,技術(shù)的問題應(yīng)該用技術(shù)的辦法來解決。正如美國的人臉識別技術(shù)在有色人種的識別率差的問題,在好幾年前就已經(jīng)暴露出來,而現(xiàn)在應(yīng)該通過訓(xùn)練樣本等手段的改進(jìn)而改變識別率,而非因為有過“翻車”事件就直接去掉,可謂印證了中國這句“波洗澡水,把孩子也一起潑掉了”的老話。
技術(shù)問題解決,更應(yīng)該強(qiáng)調(diào)的是監(jiān)管問題。
在一個人人皆媒體的時代,誰都將成為社會事件的記錄者。正如弗洛依德事件中,我們看到警方在有意掩蓋現(xiàn)場執(zhí)法過程,而圍觀群眾則將整個事件從各個角度都拍了下來,因此才引起全網(wǎng)的軒然大波。
如果在沒有攝像機(jī)執(zhí)法,沒有路人圍觀拍攝的情況下,警方一定是強(qiáng)勢的解釋方,真相可能就此被掩蓋。所以,無論從掌握的攝像頭的拍攝數(shù)據(jù)和民眾信息,還是現(xiàn)場的執(zhí)法權(quán),政府和警方都擁有絕對的優(yōu)勢,那么,官方在使用人臉識別技術(shù)的時候,就必須要嚴(yán)格遵守程序正義和結(jié)果的可溯源,在執(zhí)法中的交叉錄像、執(zhí)法后的證據(jù)固定,事后的結(jié)論公布等都要對當(dāng)事方要透明公開。如果中間出現(xiàn)疏漏,當(dāng)事人可由此提請申訴。
而對于民眾而言,人臉識別技術(shù)的使用也必須有一定的邊界,其使用的人臉識別數(shù)據(jù)必須要有合法的來源,其識別軟件必須要嚴(yán)格控制其擴(kuò)散途徑,一旦隨意擴(kuò)散該工具和數(shù)據(jù),從而造成相關(guān)法律風(fēng)險,發(fā)明者和使用者都需要付出相關(guān)的代價。
個人的無商業(yè)或者無違法目的的使用是一回事,而一旦用于謀利或犯罪就是另一回事。其中的邊界相當(dāng)敏感,未來需要更多的案例和更多的博弈出現(xiàn)。
正好最近看到一個非常正向的人臉識別應(yīng)用。杭州市的一個初二學(xué)生,剛剛發(fā)明了一種可以進(jìn)行人臉識別和語音提醒功能的“智能項圈”,其發(fā)明的初衷是為了幫助家中患有阿爾茨海默癥的老人,可以通過項圈的攝像頭識別出眼前的親人,可以通過紫外線傳感器來識別室內(nèi)室外,提醒老人回家。
特別是人臉識別技術(shù),其中的數(shù)據(jù)只包含了老人的幾位親人,自然也就不涉及濫用非法數(shù)據(jù)的問題,因為涉及少數(shù)家里人的照片,絕對的安全可靠。無論這款產(chǎn)品能否有實際的商業(yè)應(yīng)用前景,但是從“AI for Good”的角度來看,其AI應(yīng)用的合規(guī)性和公益性是毋庸置疑的。
尼采曾經(jīng)說過:與惡龍纏斗過久,自身亦成為惡龍。AI技術(shù)其實既不是那個英雄,也不是那條惡龍。最關(guān)鍵的還是使用這一工具的人類,我們究竟要用AI技術(shù)把自己鍛造成為一個英雄,還是變身成為一頭惡龍,可能就是在人心的一念之間。
當(dāng)然,最終能夠守護(hù)人間秩序的,仍然要靠著逐漸完備的法律制度來保障。只不過這個過程需要各方參與者共同去向積極方向努力。