新的技術(shù)究竟是推動(dòng)了安全的發(fā)展，還是衍生了更多的威脅？在人工智能異?；鸨拇蟓h(huán)境下，各種生物識(shí)別技術(shù)的應(yīng)用已經(jīng)越來越廣泛。聲紋識(shí)別作為生物識(shí)別領(lǐng)域很重要的識(shí)別方式，已經(jīng)逐漸滲透到人們的日常生活：借助聲紋識(shí)別技術(shù)，智能硬件產(chǎn)品將可以實(shí)現(xiàn)“聞聲識(shí)人”；公安機(jī)關(guān)將能更有效地遏制與打擊犯罪；金融機(jī)構(gòu)則得以大幅提高風(fēng)險(xiǎn)防范系統(tǒng)安全性。
2017年，全球最大關(guān)注智能生活的黑客大賽GeekPwn（極棒），將設(shè)立500萬總獎(jiǎng)金池，繼續(xù)探索智能領(lǐng)域的安全問題。在保留“無所不 PWN”的報(bào)名規(guī)則和比賽形式的基礎(chǔ)上，開設(shè)專項(xiàng)“人工智能安全挑戰(zhàn)賽”，招募AI黑客的安全挑戰(zhàn)項(xiàng)目。同時(shí)，還將增設(shè)“AI仿聲驗(yàn)聲攻防賽”，以此鼓勵(lì)全球頂尖AI黑客或AI相關(guān)領(lǐng)域的安全研究團(tuán)隊(duì)積極參與。
以AI的方式擊敗AI“黑客 VS AI”開戰(zhàn)在即
如果說由于AI的學(xué)習(xí)發(fā)展模式會(huì)導(dǎo)致黑客的蓄意攻擊，那么AI自身的特性也會(huì)引發(fā)“不自覺的相互攻擊”，這才是AI發(fā)展過程中最大的隱藏威脅。KEEN公司CEO、GeekPwn大賽發(fā)起人和創(chuàng)辦人王琦表示，隨著AI在交通、金融和醫(yī)療體系中運(yùn)用的愈加完善，一旦AI失去控制，后果將不堪設(shè)想。GeekPwn希望在惡意分子真正動(dòng)手之前，找到對(duì)抗這些攻擊的方法，幫助人工智能更加健康的發(fā)展。
作為全球首個(gè)探索人工智能與專業(yè)安全的前沿平臺(tái)，2017年， GeekPwn首創(chuàng)人工智能安全挑戰(zhàn)專項(xiàng)。根據(jù)功能區(qū)分，人工智能安全挑戰(zhàn)專項(xiàng)分為 PWN AI與 AI PWN兩部分。旨在鼓勵(lì)全球黑客自由報(bào)名，對(duì)已發(fā)布的AI服務(wù)、產(chǎn)品、庫、框架等發(fā)起挑戰(zhàn)。
同時(shí)， GeekPwn組委會(huì)還在500萬總獎(jiǎng)金池中抽出40萬獎(jiǎng)金增設(shè)“AI仿聲驗(yàn)聲攻防賽”。即日起，面向全球招募優(yōu)秀AI安全極客或AI研究團(tuán)隊(duì)，用AI的方式向聲紋識(shí)別系統(tǒng)發(fā)起攻擊。
參賽隊(duì)伍將從目標(biāo)人物的聲音中學(xué)習(xí)語音特征并合成音頻，攻擊若干語音驗(yàn)證系統(tǒng)，突破或欺騙目標(biāo)系統(tǒng)本身的用戶身份鑒別功能。王琦針對(duì)大賽規(guī)則解釋到，簡單來說，就是以AI的方式擊敗AI的防線。屆時(shí)，將會(huì)有10支隊(duì)伍進(jìn)入10月24日在上海舉辦的GeekPwn2017嘉年華，第一名的隊(duì)伍將有可能獲得最高20萬元的獎(jiǎng)金。
聲紋識(shí)別已滲透日常生活方便同時(shí)帶來安全隱患
人工智能將會(huì)如何改變一個(gè)普通人的日常生活？隨著生物科技的不斷發(fā)展和廣泛應(yīng)用，包括人臉、指紋、掌紋、虹膜等生物特征已被用于公司打卡、軟件系統(tǒng)登錄、家庭或公共場所的安防等多個(gè)場景。由于生物識(shí)別技術(shù)的準(zhǔn)確率已經(jīng)達(dá)到與人工識(shí)別接近的程度。越來越多的人將目光放在另外一種生物識(shí)別技術(shù)上——聲紋識(shí)別。
在世界范圍內(nèi)，聲紋識(shí)別技術(shù)已應(yīng)用于如金融、證券、刑偵、以及其他民用安全認(rèn)證系統(tǒng)等諸多領(lǐng)域。然而，聲紋識(shí)別所締造的“獨(dú)一無二”的聲音真的無法被打破嗎？如果有一天，這些被人們認(rèn)為是安全保障的人工智能被利用或者是攻擊，將會(huì)對(duì)人們的日常生活帶來怎樣的危害？
在深度學(xué)習(xí)大紅大紫的今天，人工智能已經(jīng)暴露出諸多問題。而人工智能與白帽黑客的過招，早在國內(nèi)外有各種實(shí)踐。在2016年GeekPwn嘉年華上，來自谷歌大腦團(tuán)隊(duì)的資深研究員Ian Goodfellow就分享了“對(duì)抗性圖像在物理世界中欺騙機(jī)器學(xué)習(xí)”的成果，僅在一張圖片上加入了人眼無法察覺的干擾因素，就輕松騙過機(jī)器導(dǎo)致其做出了錯(cuò)誤的判斷。
王琦表示，AI并不是萬無一失。AI圖像領(lǐng)域存在被欺騙的可能性，AI被欺騙，看似人工智能的錯(cuò)誤和不完善，但其實(shí)在黑客眼里就有可能變成可以利用的漏洞。針對(duì)AI，黑客可以根據(jù)不同領(lǐng)域的技術(shù)特點(diǎn)，利用障眼法等手段，蒙蔽、欺騙、誘導(dǎo)人工智能出現(xiàn)“失誤”，甚至引發(fā)災(zāi)難。AI的這些失誤，用黑客思維理解，就會(huì)變成可以利用的漏洞。
據(jù)悉，2017年GeekPwn嘉年華將于10月24日、11月13日分別在中國上海和美國硅谷共同舉辦，全球頂尖黑客將在GeekPwn的舞臺(tái)上帶來眾多“前所未見”、“腦洞大開”的項(xiàng)目。
