據(jù)外媒報(bào)道，舊金山監(jiān)管機(jī)構(gòu)周二投票禁止警察和其他城市部門使用面部識(shí)別軟件，成為美國(guó)第一個(gè)將這項(xiàng)迅速發(fā)展的技術(shù)定為非法的城市。這項(xiàng)技術(shù)已經(jīng)引起了隱私和公民自由倡導(dǎo)者的警惕。
更廣泛的立法還要求市政部門為他們想購(gòu)買或目前正在使用的監(jiān)控技術(shù)制定使用政策，并獲得董事會(huì)批準(zhǔn)。其他幾個(gè)地方政府也要求有關(guān)部門對(duì)監(jiān)控技術(shù)進(jìn)行披露并尋求批準(zhǔn)。
目前這項(xiàng)禁令適用于舊金山警方和其他市政部門。它不影響聯(lián)邦政府在機(jī)場(chǎng)和港口使用該技術(shù)，也不限制個(gè)人或企業(yè)使用。
據(jù)稱，奧克蘭市也在考慮類似的立法。
人臉識(shí)別禁令引發(fā)民眾爭(zhēng)議
舊金山充滿了科技創(chuàng)新，也是Twitter、Airbnb和優(yōu)步(Uber)的總部所在地。
在舊金山舉行的幾場(chǎng)激烈的聽(tīng)證會(huì)上，隱私倡導(dǎo)者與公共安全支持者展開(kāi)了針?shù)h相對(duì)的辯論。
“我們可以在沒(méi)有監(jiān)控的情況下?lián)碛邪踩?，這其中一部分是基于良好的社區(qū)信息與社區(qū)之間建立的信任。”支持這項(xiàng)立法的監(jiān)察員Aaron Peskin說(shuō)。
“我擔(dān)心把這些決定政治化，” 監(jiān)察員凱瑟琳·史蒂芬尼(Catherine Stefani)說(shuō)，她曾是一名檢察官，是唯一投反對(duì)票的人。
信息技術(shù)和創(chuàng)新基金會(huì)(Information Technology and Innovation Foundation)，一個(gè)位于華盛頓特區(qū)的非營(yíng)利性智庫(kù)，也發(fā)表了一份聲明，譴責(zé)舊金山考慮禁止人臉識(shí)別。
聲明稱，先進(jìn)的技術(shù)使警察更便宜、更快地找到嫌疑人和確認(rèn)失蹤人員。
該基金會(huì)副主席丹尼爾·卡斯特羅(Daniel Castro)說(shuō)，鑒于一個(gè)國(guó)家受到強(qiáng)有力的憲法保護(hù)，而另一個(gè)國(guó)家沒(méi)有，批評(píng)人士將美國(guó)的監(jiān)控使用情況與中國(guó)進(jìn)行比較是愚蠢的。
他說(shuō):“事實(shí)上，舊金山比中國(guó)更有可能成為古巴——一項(xiàng)禁止人臉識(shí)別的禁令將使舊金山困于過(guò)時(shí)的技術(shù)，止步不前。”
Peskin說(shuō)，目前還不清楚舊金山有多少部門在使用監(jiān)控系統(tǒng)，目的是什么。
他說(shuō)，使用車牌閱讀器、隨身相機(jī)和安全攝像頭是有正當(dāng)理由的，但公眾應(yīng)該知道這些工具是如何使用的，或者它們是否被濫用。
支持這項(xiàng)禁令的人表示，這項(xiàng)技術(shù)存在缺陷，對(duì)公民自由構(gòu)成嚴(yán)重威脅，尤其是在一個(gè)重視公眾抗議和隱私的城市。他們擔(dān)心，總有一天，人們?nèi)ベ?gòu)物中心、公園或?qū)W校時(shí)，會(huì)被人發(fā)現(xiàn)并跟蹤。
但是批評(píng)人士說(shuō)，警察需要得到他們所能得到的一切幫助，特別是在一個(gè)會(huì)發(fā)生大事和高犯罪率的城市。
常駐公共安全組織Stop Crime SF的成員梅雷迪思·塞拉(Meredith Serra)說(shuō)，鑒于手機(jī)和監(jiān)控?cái)z像頭的普及，人們期待公共空間的隱私是不合理的。
她在聽(tīng)證會(huì)上表示:“在我看來(lái)，該法令似乎是一個(gè)代價(jià)高昂的額外官僚體系，對(duì)改善我們公民的安全沒(méi)有任何作用。”
與人工智能、自動(dòng)駕駛、5G等等新技術(shù)一樣，目前人臉識(shí)別技術(shù)也是一門被認(rèn)為“很有潛力”的新興技術(shù)。
基于人面部的生物特征，結(jié)合身份確認(rèn)及查找系統(tǒng)，這項(xiàng)技術(shù)能夠在短時(shí)間內(nèi)辨認(rèn)生物個(gè)體。目前，刷臉支付、刷臉登錄、刷臉進(jìn)站乘車、智能簽到等實(shí)際應(yīng)用落地場(chǎng)景都為人們的生活帶來(lái)了極大方便。
但當(dāng)涉及到公共安全方面，更多的隱私、安全及公平方面的擔(dān)憂都隨之產(chǎn)生。實(shí)際上，這些擔(dān)憂也不是沒(méi)有道理的，因?yàn)槟壳暗拿娌孔R(shí)別技術(shù)，確實(shí)還“不太靠譜”。
面部識(shí)別技術(shù)準(zhǔn)確度堪憂
今年1月，麻省理工學(xué)院研究人員發(fā)表了一項(xiàng)新研究，該研究發(fā)現(xiàn)，在特定情況下，亞馬遜的人臉識(shí)別技術(shù)Rekognition無(wú)法精準(zhǔn)地確定女性和膚色較深面部的性別。
該項(xiàng)研究的聯(lián)合作者稱，在2018年進(jìn)行的實(shí)驗(yàn)中，Rekognition錯(cuò)誤地將19%的女性圖像識(shí)別為男性，將31%的深膚色女性圖像識(shí)別為男性。相比之下，微軟在識(shí)別深色皮膚人群性別時(shí)，將女性錯(cuò)認(rèn)為男性的比例只有1.5%。
亞馬遜對(duì)這項(xiàng)研究提出質(zhì)疑。它表示，Rekognition升級(jí)版的內(nèi)測(cè)結(jié)果顯示，該技術(shù)對(duì)于識(shí)別性別的正確率不存在人種差異。此外，亞馬遜認(rèn)為這篇論文沒(méi)有清楚地說(shuō)明在實(shí)驗(yàn)中使用的置信度閾值，即Rekognition的判斷被認(rèn)為是正確而必須達(dá)到的最低精確度。
但這并非亞馬遜的面部識(shí)別技術(shù)第一次“犯錯(cuò)”。此前，在夏天美國(guó)公民自由聯(lián)盟的測(cè)試中，Rekognition在把25000張罪犯照片與國(guó)會(huì)議員的官方照片進(jìn)行比較時(shí)，錯(cuò)誤地將28名國(guó)會(huì)代表視為罪犯，而38%的錯(cuò)誤匹配都是有色人種。
其他公司的面部識(shí)別技術(shù)也并非完美無(wú)瑕。
2012年的一項(xiàng)研究表明，來(lái)自供應(yīng)商Cognitec的面部算法，在非洲裔美國(guó)人上的錯(cuò)誤比白種人高5%至10%。
2011年研究人員發(fā)現(xiàn)，在中國(guó)、日本和韓國(guó)開(kāi)發(fā)的面部識(shí)別模型難以區(qū)分白人面孔和那些東亞人。
2018年2月，麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究人員發(fā)現(xiàn)，微軟，IBM和中國(guó)公司Megvii的面部識(shí)別錯(cuò)誤地識(shí)別了高達(dá)7%的淺膚色女性，高達(dá)12%的深色皮膚男性和高達(dá)35%的深色皮膚女性。
也許最臭名昭著的是，2015年，一位軟件工程師報(bào)告說(shuō)，Google Photos的圖像分類算法將非裔美國(guó)人視為“大猩猩”，引發(fā)眾多爭(zhēng)論。
據(jù)FBI 2017年公布的資料顯示，該機(jī)構(gòu)使用算法從大數(shù)據(jù)中挑選的50多個(gè)最接近“嫌疑目標(biāo)”的識(shí)別率為85%。
而2017年6月的歐冠聯(lián)賽上，英國(guó)南威爾士警方的人臉識(shí)別相機(jī)系統(tǒng)在一次足球比賽中發(fā)出了2470次警報(bào)，其中只有173次是正確的判斷，也就是說(shuō)識(shí)別準(zhǔn)確率只有8%。
不過(guò)，面部識(shí)別技術(shù)領(lǐng)域也不全是負(fù)面新聞。微軟與人工智能(AI)專家合作，修改并擴(kuò)展了用于訓(xùn)練Face API的數(shù)據(jù)集，這是一個(gè)Microsoft Azure API，提供用于檢測(cè)，識(shí)別和分析圖像中人臉的算法。通過(guò)膚色，性別和年齡的新數(shù)據(jù)，它能夠?qū)⑵つw較深的男性和女性的錯(cuò)誤率分別降低20倍和9倍。
亞馬遜表示，它正在通過(guò)AWS機(jī)器學(xué)習(xí)研究基金為研究項(xiàng)目和員工提供資金，不斷致力于提高Rekognition的準(zhǔn)確性，最近一次是通過(guò)2018年11月的重大更新。它表示對(duì)建立面部分析和面部識(shí)別的標(biāo)準(zhǔn)化測(cè)試以及與監(jiān)管機(jī)構(gòu)合作指導(dǎo)其使用非常感興趣。
AWS的深度學(xué)習(xí)和人工智能總經(jīng)理Matt Wood博士稱：“我們?yōu)檫@一領(lǐng)域的學(xué)術(shù)研究提供了資金，也對(duì)自己的團(tuán)隊(duì)進(jìn)行了大量投資，而且努力還將繼續(xù)。我們致力于改善面部識(shí)別、面部分析，強(qiáng)調(diào)解釋結(jié)果時(shí)有很高的可信度，也會(huì)重點(diǎn)關(guān)注人工審查的作用、標(biāo)準(zhǔn)化測(cè)試等方面。我們感謝為改善這些技術(shù)做出貢獻(xiàn)的客戶和學(xué)者。”
“背鍋”的亞馬遜與FBI
既然面部識(shí)別技術(shù)還存在不少缺陷，身為第一家向執(zhí)法部門提供人臉識(shí)別技術(shù)的大公司，亞馬遜毫不意外地被推到了輿論中心，常常成為被聲討的對(duì)象。
2018年5月，包括美國(guó)公民自由協(xié)會(huì)(ACLU)在內(nèi)的二十多家機(jī)構(gòu)聯(lián)名向亞馬遜CEO貝索斯上書，抗議該公司將人臉識(shí)別技術(shù)出售給警方。
亞馬遜對(duì)此只是簡(jiǎn)單回應(yīng)，一位發(fā)言人強(qiáng)調(diào)該公司向大眾提供的這種“通用”的圖像識(shí)別技術(shù)可以自動(dòng)識(shí)別人、物體和活動(dòng)，機(jī)構(gòu)采用該技術(shù)尋找丟失兒童、識(shí)別婚宴來(lái)賓等。
同年6月，20家股東團(tuán)體向亞馬遜及貝索斯施壓，要求其停止向美國(guó)政府提供強(qiáng)大且“危險(xiǎn)”的人臉識(shí)別系統(tǒng)。他們?cè)谛胖斜硎?，?dān)心政府監(jiān)控工具對(duì)隱私的威脅。
2019年4月4日，據(jù)外媒報(bào)道，26名人工智能專家聯(lián)名呼吁亞馬遜在相關(guān)法制監(jiān)督健全前，停止向政府出售其人臉識(shí)別軟件。
26名專家包括2019年計(jì)算機(jī)科學(xué)最高榮譽(yù)獎(jiǎng)圖靈獎(jiǎng)獲得者之一Yoshua Bengio，亞馬遜網(wǎng)絡(luò)服務(wù)公司前負(fù)責(zé)人Anima Anandkumar，以及來(lái)自Google，F(xiàn)acebook，Microsoft，DeepMind，哈佛以及加州大學(xué)伯克利分校的專家等，可謂十分有分量。
采用了面部識(shí)別技術(shù)的FBI也屢屢因此遭受批評(píng)。近日，美國(guó)政府的一個(gè)監(jiān)督機(jī)構(gòu)說(shuō)，聯(lián)邦調(diào)查局(FBI)正在無(wú)視人們對(duì)人臉識(shí)別技術(shù)準(zhǔn)確性以及公民第四修正案隱私權(quán)問(wèn)題的關(guān)注。
NextGov報(bào)告稱，在政府問(wèn)責(zé)局(Government Accountability Office)對(duì)其面部識(shí)別技術(shù)的使用提出一系列擔(dān)憂三年后，該局仍未評(píng)估該技術(shù)是否完全符合準(zhǔn)確性和隱私標(biāo)準(zhǔn)。
他們指出：
“自2015年以來(lái)，F(xiàn)BI和其他執(zhí)法機(jī)構(gòu)一直在使用下一代身份識(shí)別系統(tǒng)——州際照片系統(tǒng)(interstate Photo System)，該系統(tǒng)利用面部識(shí)別軟件將潛在嫌疑人與犯罪聯(lián)系起來(lái)，從一個(gè)包含3000多萬(wàn)張臉部照片和其他照片的數(shù)據(jù)庫(kù)中提取信息。”
“2016年5月，政府問(wèn)責(zé)局(GAO)建議FBI建立檢查機(jī)制，以確保軟件符合司法部的隱私和準(zhǔn)確性標(biāo)準(zhǔn)，但根據(jù)周四發(fā)布的一份報(bào)告，該局尚未實(shí)施六項(xiàng)擬議的政策變化中的任何一項(xiàng)。”
GAO將每一項(xiàng)措施都加入了司法部的“優(yōu)先公開(kāi)建議”名單，盡管司法部官員此前對(duì)六項(xiàng)政策中的四項(xiàng)是否必要存在爭(zhēng)議。
GAO審計(jì)員建議FBI每年測(cè)試NGI-IPS系統(tǒng)的有效性和準(zhǔn)確性，并在必要時(shí)進(jìn)行調(diào)整和改進(jìn)。然而，F(xiàn)BI官員反駁稱，年度審查沒(méi)有必要，因?yàn)?ldquo;沒(méi)有用戶對(duì)該系統(tǒng)表示擔(dān)憂”。
但GAO審計(jì)員表示，根據(jù)FBI、美國(guó)司法部(DoJ)和管理與預(yù)算政策辦公室(Office of Management and Budget policies)的規(guī)定，無(wú)論用戶的反饋如何，都需要每年對(duì)該系統(tǒng)進(jìn)行評(píng)估。
國(guó)會(huì)監(jiān)督機(jī)構(gòu)還敦促FBI分析該系統(tǒng)的誤報(bào)率，比如系統(tǒng)誤報(bào)嫌疑人或潛在嫌疑人的頻率。但FBI官員也沒(méi)有這么做。
除了它自己的系統(tǒng)，F(xiàn)BI在進(jìn)行調(diào)查時(shí)還使用由各州和聯(lián)邦執(zhí)法機(jī)構(gòu)各自開(kāi)發(fā)的其他系統(tǒng)。GAO表示，F(xiàn)BI也沒(méi)有測(cè)試這些系統(tǒng)，看看它們是否符合準(zhǔn)確性和隱私標(biāo)準(zhǔn)。
“在FBI官員可以保證他們收到的外部合作伙伴的數(shù)據(jù)相當(dāng)準(zhǔn)確和可靠之前，尚不清楚這些協(xié)議是否有利于FBI，公共資源的投資是否合理，以及是否有無(wú)辜者的照片被作為不必要的調(diào)查線索。”審計(jì)員寫道。
固然，是否該在公共安全領(lǐng)域使用面部識(shí)別技術(shù)還存在爭(zhēng)議，并不能簡(jiǎn)單地“一刀切”全面禁止，但FBI的做法顯然也十分不當(dāng)。
2016年，美國(guó)防部國(guó)防高級(jí)研究計(jì)劃局(DARPA)局長(zhǎng)表示，目前最好的面部識(shí)別系統(tǒng)強(qiáng)于大多數(shù)人，但系統(tǒng)會(huì)犯一些人類根本不可能犯的錯(cuò)。對(duì)于何時(shí)何地以及如何使用人工智能技術(shù)，應(yīng)該持謹(jǐn)慎態(tài)度。
“人們急不可耐地接受人工智能等新技術(shù)，但并不完全清楚這些技術(shù)的局限性。只有明白這些技術(shù)的局限性，人類才不會(huì)被誤導(dǎo)。”
2019年，IBM首席執(zhí)行官Ginni Rometty在拉斯維加斯國(guó)際消費(fèi)電子展(CES)開(kāi)幕的主題演講中宣布，像深度數(shù)據(jù)、人工智能和量子計(jì)算這樣強(qiáng)大的技術(shù)應(yīng)該小心地引入社會(huì)。
對(duì)于新技術(shù)，既要懷有寬容、開(kāi)放的心態(tài)，也要抱以謹(jǐn)慎、負(fù)責(zé)任的態(tài)度，才能最大限度降低其中蘊(yùn)藏的風(fēng)險(xiǎn)。
