谷歌今天宣布一項(xiàng)新的AI技術(shù)，旨在幫助識(shí)別網(wǎng)上兒童性虐待材料，以及減少此內(nèi)容的瀏覽量。
該互聯(lián)網(wǎng)巨頭采取這項(xiàng)措施的原因是之前“協(xié)助”違法者在網(wǎng)上傳播兒童性虐待材料。上周，英國(guó)外交部長(zhǎng)Jeremy Hunt在推特上指責(zé)谷歌重返中國(guó)的計(jì)劃，因?yàn)樵谄渌鼑?guó)家，經(jīng)過(guò)審核的搜索引擎并不會(huì)幫助移除兒童虐待內(nèi)容。
谷歌正在考慮審查其進(jìn)入中國(guó)的內(nèi)容，但不會(huì)與英國(guó)、美國(guó)和其他5個(gè)國(guó)家共同消除虐待兒童內(nèi)容，這似乎不同尋常。過(guò)去，他們?yōu)橐詢r(jià)值觀為導(dǎo)向而感到自豪。
——Jeremy Hunt，2018年8月30日
今天早些時(shí)候，英國(guó)內(nèi)政大臣Sajid Javid發(fā)布了一項(xiàng)新的政府“行為號(hào)召”，推動(dòng)谷歌和Facebook等科技公司采取更多的措施來(lái)對(duì)抗網(wǎng)上兒童性虐待圖片。英國(guó)國(guó)家犯罪調(diào)查局發(fā)現(xiàn)，約有80000名的英國(guó)用戶在網(wǎng)絡(luò)上會(huì)對(duì)兒童產(chǎn)生威脅，這一倡議也是在這一數(shù)字公開(kāi)之后發(fā)起的。
當(dāng)然，谷歌選擇在今天宣布這一技術(shù)的時(shí)機(jī)絕非偶然。
神經(jīng)網(wǎng)絡(luò)
谷歌這一新的工具是基于深度神經(jīng)網(wǎng)絡(luò)（DNN）構(gòu)建的，通過(guò)新的Content Safety API，可供非政府組織和其他“產(chǎn)業(yè)合作伙伴”免費(fèi)使用，包括其他的科技公司。
去年有一則新聞，倫敦警察局專注于一種AI解決方案，能夠訓(xùn)練機(jī)器對(duì)干擾圖像的嚴(yán)重性進(jìn)行評(píng)級(jí)。這一解決方案旨在解決兩個(gè)問(wèn)題——它會(huì)幫助加快網(wǎng)上兒童性虐待材料的識(shí)別速度，也能夠幫助手動(dòng)瀏覽相應(yīng)圖片的審查人員緩解因此遭受的心理創(chuàng)傷。
谷歌的新工具能夠協(xié)助大力推動(dòng)這一舉措的實(shí)施。在以前，自動(dòng)化工具依賴同之前識(shí)別出的兒童性虐待圖片進(jìn)行匹配。工程主管Nikola Todorovic和產(chǎn)品經(jīng)理Abhi Chaudhuri共同發(fā)表的一篇博客稱，谷歌表示，有了Content Safety API，能夠鎖定之前未被證實(shí)為兒童性虐待材料的新內(nèi)容，從而能夠高效地追蹤到違法者。
“快速識(shí)別新圖像意味著更有可能識(shí)別出當(dāng)前受到性虐待的兒童，從而保護(hù)他們不再受到侵害，”他們表示：“我們會(huì)通過(guò)Content Safety API（一個(gè)開(kāi)發(fā)者工具包，能夠增強(qiáng)瀏覽內(nèi)容的能力，只需要少數(shù)的人類干預(yù)），將這一工具免費(fèi)提供給非政府組織和產(chǎn)業(yè)合作伙伴。”
現(xiàn)在大多數(shù)的技術(shù)公司都使用AI來(lái)監(jiān)測(cè)從裸體圖片到惡意評(píng)論等各式各樣的冒犯性材料。“這一舉措將大大提高對(duì)潛在兒童性虐待材料審查過(guò)程的速度，”Todorovic和Chaudhuri繼續(xù)說(shuō)道：“我們已經(jīng)親眼目睹了這個(gè)系統(tǒng)可以幫助審查人員在同等的時(shí)間下，使審核內(nèi)容的速度提高700%。”
谷歌的合作伙伴組織聯(lián)合國(guó)慈善機(jī)構(gòu)互聯(lián)網(wǎng)觀察基金會(huì)（IWF）參與了這一工具的發(fā)布會(huì)，該機(jī)構(gòu)的使命是“盡量減少‘潛在犯罪’互聯(lián)網(wǎng)內(nèi)容的可用性，特別是兒童性虐待的圖片。”
“我們，特別是我們的專家分析師，對(duì)開(kāi)發(fā)AI工具感到非常興奮，這種工具可以幫助我們的人類專家更大規(guī)模地審查材料，并通過(guò)鎖定以前未被標(biāo)記為非法的圖像，從而追蹤違法者，”IWF首席執(zhí)行官Susie Hargreaves補(bǔ)充道：“通過(guò)分享這項(xiàng)新技術(shù)，可以加快圖像的識(shí)別速度，從而使互聯(lián)網(wǎng)成為更安全的地方。”
原文作者：PAUL SAWERS
