繼舊金山之后，美國(guó)第二個(gè)城市也下令禁止了市政府使用面部識(shí)別技術(shù)。周四，美國(guó)馬薩諸塞州的薩默維爾市議會(huì)以11票贊成、0票反對(duì)的結(jié)果通過(guò)了《反面部識(shí)別條例》(anti-facial recognition act)，該法案認(rèn)為這項(xiàng)技術(shù)有可能影響到言論自由。
該條例指出:“在公眾地方廣泛應(yīng)用人臉監(jiān)控，其功能相當(dāng)于要求每個(gè)人在任何時(shí)候都必須攜帶并出示一張個(gè)人照片身份證。”
該法令還指出，面部識(shí)別技術(shù)可能會(huì)誤判人，尤其是女性和非白人。該條例補(bǔ)充稱，“許多應(yīng)用人臉監(jiān)控技術(shù)的數(shù)據(jù)庫(kù)都受到種族和其他偏見(jiàn)的困擾。”
市議員Ben Ewen-Campen說(shuō)，公眾越來(lái)越擔(dān)心新技術(shù)將如何影響社會(huì)，他在這種情況下提出了這項(xiàng)法令。他在昨天的投票中說(shuō):“這是一場(chǎng)侵犯隱私的攻擊，人們感到，作為個(gè)人和家庭，在社會(huì)中獲得自由越來(lái)越困難。”
“這只是一小步，但這是一個(gè)提醒:我們是社會(huì)的主人，”他補(bǔ)充說(shuō)。“我們不必坐以待斃。”
除了禁止市政部門(mén)積極使用人工智能外，該法令還禁止在刑事調(diào)查或法律訴訟中使用面部識(shí)別軟件系統(tǒng)產(chǎn)生的數(shù)據(jù)或證據(jù)。當(dāng)?shù)胤蓻](méi)有限制州或聯(lián)邦執(zhí)法部門(mén)使用面部識(shí)別的范圍。
該條例部分由ACLU(美國(guó)公民自由聯(lián)盟)撰寫(xiě)，ACLU也幫助制定了薩默維爾法令。ACLU主任卡德?克魯克福德(Kade Crockford)表示:“這座城市發(fā)出了一個(gè)大膽的聲明，它不會(huì)坐視反烏托邦技術(shù)進(jìn)一步超越我們對(duì)公民自由的保護(hù)，損害隱私、種族和性別公正以及言論自由。”
美國(guó)公民自由聯(lián)盟希望更多的城市和州能通過(guò)類似的法律來(lái)規(guī)范這項(xiàng)技術(shù)。
此前，舊金山也宣布禁止地方政府使用面部識(shí)別技術(shù)。今年5月，舊金山成為美國(guó)第一個(gè)禁止警察和其他政府機(jī)構(gòu)使用面部識(shí)別技術(shù)的城市。
根據(jù)新的舊金山法律，任何想要使用監(jiān)控技術(shù)或服務(wù)的城市部門(mén)必須首先得到監(jiān)事會(huì)(Board of Supervisors)的批準(zhǔn)。該過(guò)程將包括提交有關(guān)技術(shù)及其使用方式的信息，并在公開(kāi)聽(tīng)證會(huì)上提交。根據(jù)新規(guī)則，任何已經(jīng)使用監(jiān)控技術(shù)的城市部門(mén)都需要告訴董事會(huì)是如何使用它的。
該條例還規(guī)定，該市每年都需要向監(jiān)事會(huì)報(bào)告監(jiān)管設(shè)備和服務(wù)是否按批準(zhǔn)方式使用，還包括保存、共享或刪除數(shù)據(jù)的詳細(xì)信息。
面部識(shí)別技術(shù)的爭(zhēng)議：準(zhǔn)確率與隱私
實(shí)際上，公眾對(duì)于面部識(shí)別技術(shù)的擔(dān)憂很有道理：該技術(shù)的準(zhǔn)確率實(shí)在還不足以取信于民眾。
2018年7月ACLU表示，在他們的測(cè)試中，亞馬遜的人臉識(shí)別系統(tǒng)Rekognition居然把28位國(guó)會(huì)議員識(shí)別成了罪犯，在有色人種中錯(cuò)誤率更為明顯。
2012年的一項(xiàng)研究表明，來(lái)自供應(yīng)商Cognitec的面部算法，在非洲裔美國(guó)人上的錯(cuò)誤比白種人高5%至10%。
2018年2月，麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究人員發(fā)現(xiàn)，微軟，IBM和中國(guó)公司Megvii的面部識(shí)別錯(cuò)誤地識(shí)別了高達(dá)7%的淺膚色女性，高達(dá)12%的深色皮膚男性和高達(dá)35%的深色皮膚女性。
2015年，一位軟件工程師報(bào)告說(shuō)，Google Photos的圖像分類算法將非裔美國(guó)人的照片貼上“大猩猩”標(biāo)簽，引發(fā)爭(zhēng)議。
2017年6月的歐冠聯(lián)賽上，英國(guó)南威爾士警方的人臉識(shí)別相機(jī)系統(tǒng)在一次足球比賽中發(fā)出了2470次警報(bào)，其中只有173次是正確的判斷，也就是說(shuō)識(shí)別準(zhǔn)確率只有8%。
除了技術(shù)容易誤判之外，普通人的隱私也是一個(gè)問(wèn)題。2019年1月，IBM發(fā)布了一組“人臉多樣性”的數(shù)據(jù)，就遭到了一些攝影師、專家和活動(dòng)人士的批評(píng)，因?yàn)镮BM沒(méi)有征求人們的同意，就將他們的照片用于改善面部識(shí)別技術(shù)。
作為回應(yīng)，IBM表示將嚴(yán)肅對(duì)待隱私問(wèn)題，用戶可以選擇退出數(shù)據(jù)庫(kù)。
而近日，微軟公司也悄然刪除了該公司于2016年發(fā)布的人臉識(shí)別數(shù)據(jù)庫(kù)MS-Celeb。該數(shù)據(jù)是全球最大的公開(kāi)人臉識(shí)別數(shù)據(jù)庫(kù)，根據(jù)資料統(tǒng)計(jì)，已有多個(gè)商業(yè)組織在使用MS Celeb數(shù)據(jù)庫(kù)，包括很多知名互聯(lián)網(wǎng)企業(yè)。分析人士稱，此舉或因擔(dān)心侵犯公眾隱私權(quán)、“數(shù)據(jù)權(quán)”，從而產(chǎn)生法律風(fēng)險(xiǎn)。
不過(guò)，盡管并不完美，面部識(shí)別技術(shù)并非全然無(wú)用。
馬里蘭州警方利用該技術(shù)確認(rèn)了大規(guī)模槍擊案的嫌疑人;印度警方利用該技術(shù)在四天內(nèi)確認(rèn)了近3000名失蹤兒童的身份;臉書(shū)利用該技術(shù)為視障人士識(shí)別照片中的人物;除此之外，面部識(shí)別技術(shù)已經(jīng)成為解鎖智能手機(jī)的一種便捷方式。
科技巨頭們更是紛紛為自家所使用的技術(shù)“站臺(tái)”。Microsoft公司表示，自己在去年就將識(shí)別女性和深膚色人種的錯(cuò)誤率降低了20倍;Facebook公司使用面部識(shí)別技術(shù)來(lái)標(biāo)記用戶，公司的一位發(fā)言人表示，該公司確保其使用的數(shù)據(jù)是“平衡的，并且反映了Facebook用戶的多樣性”;Google聲稱，它發(fā)表了關(guān)于人工智能的原則，其中包括禁止“制造或加強(qiáng)不公平的偏見(jiàn)”。
