2018年全國(guó)“兩會(huì)”政府工作報(bào)告中提到“加強(qiáng)新一代人工智能研發(fā)應(yīng)用”，表明國(guó)家對(duì)人工智能（AI）發(fā)展的重視。然而，任何新技術(shù)、新應(yīng)用都具有兩面性，人工智能技術(shù)及其應(yīng)用為人們的生產(chǎn)和生活提供便利的同時(shí)，也帶來了安全隱患。2018年3月，優(yōu)步（Uber）自動(dòng)駕駛車輛在美國(guó)造成行人死亡事件，引發(fā)了公眾對(duì)人工智能安全的廣泛熱議和普遍擔(dān)憂。當(dāng)前，亟須梳理人工智能發(fā)展的現(xiàn)狀和趨勢(shì)，分析其帶來的安全風(fēng)險(xiǎn)，提出應(yīng)對(duì)措施與建議，有效促進(jìn)人工智能產(chǎn)業(yè)健康發(fā)展。
人工智能發(fā)展現(xiàn)狀
綜合來看，人工智能目前呈現(xiàn)幾個(gè)發(fā)展特點(diǎn)。
一是各國(guó)政府高度重視，納入國(guó)家科技戰(zhàn)略核心。世界上的主要國(guó)家都高度重視人工智能發(fā)展。其中，美國(guó)和中國(guó)先后將人工智能提升為國(guó)家戰(zhàn)略，大力促進(jìn)技術(shù)和產(chǎn)業(yè)發(fā)展；英國(guó)、日本、德國(guó)等憑借其在人工智能專項(xiàng)領(lǐng)域的技術(shù)優(yōu)勢(shì)推動(dòng)人工智能發(fā)展，如英國(guó)和日本以機(jī)器人領(lǐng)域技術(shù)為突破點(diǎn)，德國(guó)以“工業(yè)4.0”為契機(jī)推進(jìn)人工智能發(fā)展。
二是學(xué)術(shù)研究方興未艾，科技成果爆發(fā)式增長(zhǎng)。近幾年，人工智能學(xué)術(shù)研究成果突飛猛進(jìn)，為人工智能的發(fā)展奠定了良好的基礎(chǔ)。人工智能論文數(shù)量和專利申請(qǐng)數(shù)均呈爆炸式增長(zhǎng)，其中，中國(guó)2016年提及“深度學(xué)習(xí)”和“深度神經(jīng)網(wǎng)絡(luò)”的重要論文接近600篇，是2013年的12倍，已穩(wěn)居全球首位； 2016年，中國(guó)專利年申請(qǐng)數(shù)為29023項(xiàng)，較2001年增長(zhǎng)了40倍左右。
三是產(chǎn)業(yè)格局正在形成，科技巨頭引領(lǐng)人工智能發(fā)展。在產(chǎn)業(yè)界，科技巨頭在人工智能產(chǎn)業(yè)環(huán)節(jié)積極卡位布局。IBM圍繞Watson在芯片、計(jì)算平臺(tái)、行業(yè)解決方案和應(yīng)用場(chǎng)景等進(jìn)行全面產(chǎn)業(yè)布局；谷歌憑借TensorFlow平臺(tái)在智能家居、自動(dòng)駕駛等重點(diǎn)領(lǐng)域布局；國(guó)內(nèi)以BAT為代表的科技企業(yè)，基于現(xiàn)有技術(shù)優(yōu)勢(shì)和產(chǎn)品特點(diǎn)，加速構(gòu)建差異化的產(chǎn)業(yè)生態(tài)，成為國(guó)內(nèi)人工智能領(lǐng)域領(lǐng)跑者。
人工智能發(fā)展趨勢(shì)
一是行業(yè)應(yīng)用潛力巨大，“AI ”將成未來風(fēng)向標(biāo)。“AI ”是“互聯(lián)網(wǎng) ”的延續(xù)和升級(jí)，推動(dòng)傳統(tǒng)行業(yè)向自動(dòng)化和智能化轉(zhuǎn)型。目前人工智能在工業(yè)、金融、交通、醫(yī)療、保險(xiǎn)、安防等領(lǐng)域應(yīng)用潛力巨大，未來“AI ”將催生更多新業(yè)態(tài)，開拓更廣闊的市場(chǎng)空間。據(jù)麥肯錫預(yù)計(jì)，到2025年，人工智能應(yīng)用市場(chǎng)總值將達(dá)到1270億美元。
二是創(chuàng)業(yè)投資漸趨理性，重新審視人工智能商業(yè)價(jià)值。人工智能投資正趨于理性，投資人更關(guān)注人工智能的商業(yè)和應(yīng)用價(jià)值?！?017年中國(guó)人工智能產(chǎn)業(yè)數(shù)據(jù)報(bào)告》指出，人工智能領(lǐng)域投融資種子天使輪比重逐年下降，投資階段有后移趨勢(shì)?？梢灶A(yù)見，隨著學(xué)術(shù)研究向產(chǎn)業(yè)應(yīng)用轉(zhuǎn)化的趨勢(shì)越發(fā)明顯，商業(yè)應(yīng)用需求將是未來推動(dòng)人工智能產(chǎn)業(yè)發(fā)展的主要因素。
三是認(rèn)知智能尚未成熟，亟待新一輪技術(shù)革命。當(dāng)前人工智能主要是依托數(shù)據(jù)驅(qū)動(dòng)的感知智能，發(fā)展受限于算法效率和硬件性能等因素：一方面，深度學(xué)習(xí)算法嚴(yán)重依賴海量數(shù)據(jù)和超強(qiáng)算力，且存在不可解釋性；另一方面，隨著摩爾定律的失效，支持人工智能發(fā)展的硬件性能呈指數(shù)增長(zhǎng)將不可持續(xù)。因此，依托深度學(xué)習(xí)的人工智能未來可能會(huì)遭遇發(fā)展瓶頸，以遷移學(xué)習(xí)、類腦學(xué)習(xí)等為代表的認(rèn)知智能研究越發(fā)重要。
人工智能帶來的安全風(fēng)險(xiǎn)
一是人工智能可提升網(wǎng)絡(luò)攻擊效率，威脅網(wǎng)絡(luò)空間安全。人工智能技術(shù)用于網(wǎng)絡(luò)攻擊時(shí)，其自我學(xué)習(xí)能力和自組織能力可用于智能查找漏洞和識(shí)別關(guān)鍵目標(biāo)，提高攻擊效率。例如，集成人工智能的惡意軟件可自動(dòng)瞄準(zhǔn)更具吸引力的目標(biāo)，劫持工業(yè)設(shè)備、勒索贖金等犯罪將越來越常見，傳統(tǒng)網(wǎng)絡(luò)安全體系遭受威脅。
二是人工智能可加劇個(gè)人信息泄露，威脅個(gè)人隱私安全。人工智能技術(shù)的應(yīng)用增強(qiáng)了個(gè)人信息采集和個(gè)人數(shù)據(jù)挖掘能力，加大了隱私泄露風(fēng)險(xiǎn)。例如，基于指紋、人臉、虹膜等生物特征識(shí)別的智能系統(tǒng)會(huì)采集和掌握大量用戶隱私，人工智能系統(tǒng)則可根據(jù)其采集到的數(shù)據(jù)進(jìn)行再學(xué)習(xí)和再推理，得到更多與用戶隱私相關(guān)的信息，甚至可能導(dǎo)致數(shù)據(jù)匿名化等安全保護(hù)措施無效。
三是人工智能系統(tǒng)尚存在決策偏差，威脅人身安全。人工智能系統(tǒng)（特別是高度自治的系統(tǒng)）具備一定的決策和行動(dòng)能力，一旦出現(xiàn)感知、認(rèn)知偏差或者受到網(wǎng)絡(luò)攻擊，系統(tǒng)就可能判斷失誤，進(jìn)而采取錯(cuò)誤行動(dòng)，甚至危及人身安全。例如，今年3月，優(yōu)步自動(dòng)駕駛汽車在美國(guó)亞利桑那州造成行人死亡的案例就是此類安全威脅的明證。
四是人工智能可替代傳統(tǒng)行業(yè)工種，威脅社會(huì)就業(yè)安全。人工智能應(yīng)用會(huì)促進(jìn)產(chǎn)業(yè)升級(jí)，引發(fā)結(jié)構(gòu)性失業(yè)，例如，無人駕駛代替?zhèn)鹘y(tǒng)司機(jī)，無人超市替代收銀員和導(dǎo)購(gòu)員，未來警察機(jī)器人替代交警等。據(jù)Forrester Research預(yù)測(cè)，人工智能技術(shù)將在2025年之前取代美國(guó)7%的工作崗位，其中16%的美國(guó)工人將被人工智能系統(tǒng)取代。在新的社會(huì)分工建立之前，人工智能對(duì)就業(yè)的沖擊可能引發(fā)社會(huì)安全風(fēng)險(xiǎn)。
人工智能安全應(yīng)對(duì)建議
一是加強(qiáng)技術(shù)應(yīng)用研究，提升網(wǎng)絡(luò)空間安全防御能力。人工智能技術(shù)對(duì)于網(wǎng)絡(luò)空間安全是一柄“雙刃劍”，既可增強(qiáng)網(wǎng)絡(luò)攻擊能力，也可提升安全防御能力。應(yīng)積極引導(dǎo)和推動(dòng)研究機(jī)構(gòu)和網(wǎng)絡(luò)安全公司，加強(qiáng)人工智能技術(shù)在網(wǎng)絡(luò)安全防護(hù)領(lǐng)域的應(yīng)用研究，構(gòu)建基于人工智能的網(wǎng)絡(luò)攻防演練平臺(tái)，研發(fā)成熟的人工智能網(wǎng)絡(luò)安全產(chǎn)品，涵蓋漏洞掃描、入侵檢測(cè)、態(tài)勢(shì)感知、攻擊預(yù)警以及應(yīng)急處置等多類型應(yīng)用，提升網(wǎng)絡(luò)安全防護(hù)的自動(dòng)化和智能化水平。
二是立法和技術(shù)研究并重，促進(jìn)個(gè)人隱私安全管理。在大數(shù)據(jù)和人工智能時(shí)代，隱私保護(hù)應(yīng)從立法監(jiān)管和技術(shù)能力提升兩方面入手：一方面，針對(duì)我國(guó)個(gè)人信息保護(hù)法律條款分散、不成體系的現(xiàn)狀，加快統(tǒng)一立法，特別是明確企業(yè)收集用戶信息的原則、程序、保密和保護(hù)義務(wù)以及不當(dāng)使用、數(shù)據(jù)泄露等相關(guān)責(zé)任；另一方面，加強(qiáng)新技術(shù)在個(gè)人隱私保護(hù)方面的應(yīng)用，例如，區(qū)塊鏈技術(shù)具備加密、信任、點(diǎn)對(duì)點(diǎn)、難篡改等特征，可加強(qiáng)用戶對(duì)個(gè)人隱私數(shù)據(jù)的掌控，防止數(shù)據(jù)在網(wǎng)絡(luò)傳輸和后臺(tái)存儲(chǔ)環(huán)節(jié)的泄露。
三是強(qiáng)化人工智能應(yīng)用安全，規(guī)避人身安全風(fēng)險(xiǎn)。要加強(qiáng)人工智能技術(shù)研究，提升核心算法和學(xué)習(xí)模型的成熟度，增強(qiáng)人工智能感知、認(rèn)知能力和決策的透明度與可解釋性，保障智能應(yīng)用決策行動(dòng)的健壯性；應(yīng)主動(dòng)構(gòu)建人工智能應(yīng)用安全評(píng)估評(píng)測(cè)體系，制定評(píng)估評(píng)測(cè)標(biāo)準(zhǔn)，建設(shè)人工智能應(yīng)用安全測(cè)試驗(yàn)證平臺(tái)，通過檢驗(yàn)測(cè)試發(fā)掘人工智能系統(tǒng)安全漏洞，提升人工智能應(yīng)用的安全可靠性，努力規(guī)避人身安全風(fēng)險(xiǎn)。
四是優(yōu)化學(xué)科專業(yè)設(shè)置和在職培訓(xùn)，降低社會(huì)失業(yè)風(fēng)險(xiǎn)。面向人工智能產(chǎn)業(yè)發(fā)展引發(fā)的社會(huì)就業(yè)變革，應(yīng)動(dòng)態(tài)調(diào)整高校、職業(yè)學(xué)校等專業(yè)設(shè)置，增設(shè)人工智能相關(guān)交叉類學(xué)科，逐步降低乃至取消人工智能可替代職業(yè)的招生名額；應(yīng)引導(dǎo)在崗人員樹立終身學(xué)習(xí)理念，完善在職培訓(xùn)和再就業(yè)培訓(xùn)體系，通過培訓(xùn)革新在崗人員就業(yè)技能，大力培育智能經(jīng)濟(jì)新崗位，最大限度降低人員失業(yè)引發(fā)的社會(huì)安全風(fēng)險(xiǎn)。
