deepfake技術利用AI算法，可以“扣出”影片、圖片和音頻中的特定人物，將他人取而代之。而根據(jù)阿姆斯特丹網(wǎng)絡安全初創(chuàng)公司Deeptrace的最新統(tǒng)計，基于該技術的影像制品數(shù)目，正在網(wǎng)絡上迅速增加。該公司在6月和7月的統(tǒng)計中發(fā)現(xiàn)了14698個deepfake視頻，而這一數(shù)字在去年12月時只有7964。僅僅7個月過去，deepfake視頻就爆炸般增長了84%。這一增長趨勢引起了大眾的不安，不僅僅是因為deepfake視頻可以用來操縱、搖擺民意，甚至影響選舉，又或是將莫須有的罪行栽贓給某個人。他們更擔心的是由此產(chǎn)生的大量色情視頻和敲詐案件。
為了應對deepfake的迅猛增長，F(xiàn)acebook牽手亞馬遜云服務(AWS)、微軟以及AI合作伙伴關系（the Partnership on AI），舉辦了deepfake 檢測挑戰(zhàn)賽。來自康奈爾理工學院、麻省理工學院、牛津大學、加州伯克利分校等院校的眾多專家學者們加入比賽，在deepfake檢測技術的研究道路上帶頭沖鋒。該賽事將在溫哥華NeurIPS 2019會議上向全球發(fā)布，力圖促進開源檢測工具的開發(fā)。
截止至今，F(xiàn)acebook已經(jīng)貢獻了超過一千萬美元，用以鼓勵人們參與獎金的角逐；亞馬遜云服務則貢獻了價值一百多萬美元的積分，并為參賽者提供了備選模型；谷歌旗下Kaggle數(shù)據(jù)科學和機器學習平臺將負責該挑戰(zhàn)賽的主辦。
Facebook首席技術官Mike Schroepfer指出，deepfake技術產(chǎn)生的“真人”影音材料嚴重影響了人們對于網(wǎng)絡信息的信任，而行業(yè)中卻沒有工具來檢測它們。我們希望開發(fā)出一些技術，讓這些被偽造的視頻無處遁形。”
檢測挑戰(zhàn)賽所提供的數(shù)據(jù)集展示了原始視頻（左）和被篡改視頻（右）。
deepfake檢測挑戰(zhàn)包括了巨額獎金和一個訓練數(shù)據(jù)集。針對視頻造假，多種檢測工具幾經(jīng)面試，其中，由加州大學伯克利分校和南加州大學研究人員開發(fā)的工具最為優(yōu)秀，它的識別準確率能超過90%。但與此同時，deepfake又是一項在不斷變化和發(fā)展中的技術?？梢哉f這項檢測挑戰(zhàn)任重而道遠。在最近的采訪中，Pinscreen公司首席執(zhí)行官Hao Li指出，人工智能合成技術演化不斷，在某種程度上，合成贗品幾乎不可能從現(xiàn)實中辨別出來。
deepfake檢測挑戰(zhàn)中，群眾演員們受雇拍攝了許多的視頻訓練材料。這些視頻中的背景、動作、場景設計各不相同，可以說是五花八門。在這之后，基于這些真實的視頻，偽造的視頻被加工出來，它們或人臉被調(diào)換，或聲音被修改。
“deepfake探測技術的前沿研究需要結(jié)合大規(guī)模、貼近現(xiàn)實、有用且免費的數(shù)據(jù)集。既然這種資源不存在，我們便不得不從頭開始創(chuàng)造它。” Facebook人工智能研究經(jīng)理Christian Ferrer表示，為了避免法律和政策掣肘，這份數(shù)據(jù)集，只涉及那些簽訂使用協(xié)議的參與者，不涉及其他用戶的任何信息。此外，F(xiàn)errer還說，對數(shù)據(jù)集的訪問是封閉的，因此只有簽訂了許可協(xié)議的團隊才能訪問和使用它。
即日起，參賽者可以下載語料來訓練自己的deepfake識別模型。在完成了設計后，他們需要將代碼提交到一個黑盒環(huán)境中接受驗證，獲得評分。參賽者不需要分享他們的模型，但必須同意將模型開源以獲得贏取巨額獎金的資格。
deepfake檢測挑戰(zhàn)由一個專業(yè)的委員會推動和監(jiān)督，該委員會包括Facebook、微軟以及媒體、學術團體等。該競賽計劃運行到2020年3月底。
“跨行業(yè)領域的各界團體一起努力，在幾個月的時間里共同創(chuàng)造了該挑戰(zhàn)，這樣的團結(jié)一致無疑的是鼓舞人心的。”Facebook人工智能總監(jiān)、負責管理這項挑戰(zhàn)的業(yè)務主管Irina Kofman說道，“每個人都帶來了各自領域的見解，這讓我們得以接觸到了廣泛的觀點。”
谷歌副總裁AI Jerome Pesenti認為，“我們知道解決這些難題不會容易。但是，我相信，開源開放的研究方法終將孵化有效的工具，幫助人們識別deepfake詐騙。”
