本文來(lái)自微信公眾號(hào)“中國(guó)電子報(bào)”，作者/宋婧。
近日，在英國(guó)召開(kāi)的首屆全球人工智能安全峰會(huì)落下帷幕。包括中國(guó)、美國(guó)、英國(guó)、歐盟在內(nèi)的28個(gè)國(guó)家和地區(qū)簽署了《布萊奇利宣言》，承諾以“安全”“以人為本”“值得信賴”和“負(fù)責(zé)任”的方式設(shè)計(jì)、開(kāi)發(fā)、部署和使用人工智能。這份宣言標(biāo)志著多國(guó)首次達(dá)成一致，認(rèn)識(shí)到人工智能安全問(wèn)題需要共同關(guān)注和努力。
各國(guó)爭(zhēng)奪規(guī)則制定權(quán)和話語(yǔ)權(quán)
作為各國(guó)科技創(chuàng)新焦點(diǎn)，人工智能的安全治理也被提上了日程。從大方向來(lái)看，目前主要有兩條探索路徑：一是強(qiáng)調(diào)通過(guò)政府監(jiān)管和行業(yè)規(guī)則實(shí)現(xiàn)安全；二是強(qiáng)調(diào)通過(guò)市場(chǎng)驅(qū)動(dòng)或通過(guò)國(guó)家規(guī)劃驅(qū)動(dòng)產(chǎn)業(yè)發(fā)展。
歐盟對(duì)人工智能安全治理的態(tài)度最為激進(jìn)。據(jù)來(lái)自歐盟和亞洲的高級(jí)官員表示，歐盟正在游說(shuō)亞洲國(guó)家效仿其在人工智能方面的做法，希望像當(dāng)初把歐盟的《通用數(shù)據(jù)保護(hù)條例》塑造成全球隱私標(biāo)準(zhǔn)那樣，將其最新擬議的《人工智能法》也推廣成為人工智能技術(shù)的全球監(jiān)管標(biāo)準(zhǔn)。
美國(guó)商務(wù)部長(zhǎng)吉娜·雷蒙多在此次峰會(huì)上表示，人工智能安全研究將評(píng)估前沿人工智能模型已知和新出現(xiàn)的風(fēng)險(xiǎn)。會(huì)后不久，美國(guó)總統(tǒng)拜登就簽署了一項(xiàng)行政命令，強(qiáng)調(diào)由政府部門對(duì)人工智能技術(shù)的研發(fā)和應(yīng)用進(jìn)行安全測(cè)試和全程監(jiān)管。專家分析稱，美國(guó)希望通過(guò)政府補(bǔ)貼和人才政策傾斜，確保美國(guó)在人工智能領(lǐng)域保持領(lǐng)先地位。
法國(guó)負(fù)責(zé)數(shù)字問(wèn)題的副部長(zhǎng)讓·諾埃爾·巴羅特表示，法國(guó)政府正在爭(zhēng)取開(kāi)源人工智能發(fā)展。開(kāi)源是指模型開(kāi)發(fā)者讓公眾開(kāi)發(fā)、修改和迭代他們的模型。“在前幾代技術(shù)中可以看到，開(kāi)源對(duì)于這些技術(shù)的透明度和治理都非常有用。它幫助確保競(jìng)爭(zhēng)公平，并防止某些領(lǐng)域出現(xiàn)不利于創(chuàng)新的壟斷。”巴羅特說(shuō)道。
與多國(guó)紛紛出手加強(qiáng)人工智能監(jiān)管形成對(duì)比的是，英國(guó)稱，并不急于通過(guò)新的人工智能法律來(lái)對(duì)本國(guó)人工智能進(jìn)行監(jiān)管，而是建議讓人工智能技術(shù)公司更好地發(fā)現(xiàn)問(wèn)題并與立法機(jī)構(gòu)分享他們的發(fā)現(xiàn)。印度稱，暫時(shí)沒(méi)有計(jì)劃監(jiān)管人工智能的使用和發(fā)展。新加坡、菲律賓、日本等國(guó)也表示更傾向于先觀望人工智能技術(shù)的發(fā)展，擔(dān)心過(guò)于倉(cāng)促的監(jiān)管可能會(huì)扼殺人工智能創(chuàng)新。
數(shù)據(jù)來(lái)源：弗若斯特沙利文
實(shí)際上，人工智能治理全球競(jìng)爭(zhēng)提速的背后，是對(duì)人工智能發(fā)展規(guī)則制定權(quán)和話語(yǔ)權(quán)的爭(zhēng)奪。北京計(jì)算機(jī)學(xué)會(huì)數(shù)字經(jīng)濟(jì)專委會(huì)秘書(shū)長(zhǎng)王娟在接受《中國(guó)電子報(bào)》記者采訪時(shí)表示，規(guī)則的設(shè)定一定會(huì)直接影響到產(chǎn)業(yè)未來(lái)發(fā)展的導(dǎo)向和趨勢(shì)。各方立場(chǎng)也顯示了不同的國(guó)家治理理念。比如，美國(guó)一貫強(qiáng)調(diào)問(wèn)責(zé)機(jī)制和明確問(wèn)責(zé)對(duì)象要求，歐盟更注重?cái)?shù)據(jù)隱私保護(hù)和倫理治理。
“目前來(lái)看，各國(guó)都較為認(rèn)同的是‘敏捷治理’思路，即初期先制定一個(gè)頂層框架，在過(guò)程中不斷調(diào)整監(jiān)管治理和風(fēng)險(xiǎn)控制的措施，通過(guò)一些案例和判罰來(lái)表明監(jiān)管的態(tài)度，并在實(shí)踐推進(jìn)中不斷加強(qiáng)監(jiān)管認(rèn)知，從而不斷調(diào)整監(jiān)管思路并釋放這種信號(hào)。”王娟說(shuō)道。
賽迪顧問(wèn)人工智能產(chǎn)業(yè)研究中心高級(jí)分析師于凱迪在接受《中國(guó)電子報(bào)》記者采訪時(shí)表示，積極展開(kāi)對(duì)人工智能的監(jiān)管實(shí)際上也是參與全球治理的重要環(huán)節(jié)。掌握監(jiān)管規(guī)則就能在未來(lái)技術(shù)路徑選擇、市場(chǎng)需求引導(dǎo)等方面獲得更多話語(yǔ)權(quán)，這對(duì)于提升國(guó)家影響力、增強(qiáng)國(guó)際競(jìng)爭(zhēng)力等方面都將發(fā)揮重要作用。
此外，人工智能技術(shù)的快速演進(jìn)也在呼喚全球化規(guī)則的制定。“有效的監(jiān)管規(guī)則會(huì)引導(dǎo)人工智能產(chǎn)業(yè)的健康發(fā)展，抑制不良應(yīng)用的發(fā)展。生成式人工智能是一個(gè)跨國(guó)界、多領(lǐng)域的技術(shù)，這要求全球范圍內(nèi)的監(jiān)管單位進(jìn)行合作，共同制定國(guó)際標(biāo)準(zhǔn)和規(guī)則。”安恒信息高級(jí)副總裁王欣對(duì)《中國(guó)電子報(bào)》記者表示。
中國(guó)人工智能治理走在全球前列
中國(guó)科技部副部長(zhǎng)吳朝暉在此次峰會(huì)上表示，中國(guó)將為“人工智能國(guó)際機(jī)制、擴(kuò)大參與和基于廣泛共識(shí)的治理框架做出貢獻(xiàn)，造福人民，構(gòu)建人類命運(yùn)共同體”。中方代表團(tuán)聯(lián)署了會(huì)議的重要成果文件——關(guān)于人工智能國(guó)際治理的《布萊切利宣言》。多位專家表示，中國(guó)在人工智能治理方面已經(jīng)走在了全球前列。
8月15日，由工信部等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》正式施行。從現(xiàn)有規(guī)則來(lái)看，我國(guó)的治理路徑與歐盟和美國(guó)不同，在倫理規(guī)則和法律法規(guī)方面皆有布局，具體到生成式人工智能治理，我國(guó)強(qiáng)調(diào)安全與發(fā)展的“雙輪驅(qū)動(dòng)”，既采取措施支持和鼓勵(lì)生成式人工智能應(yīng)用的發(fā)展，又針對(duì)生成式人工智能應(yīng)用場(chǎng)景下可能引發(fā)的風(fēng)險(xiǎn)進(jìn)行規(guī)制。
不同的治理策略與不同的產(chǎn)業(yè)發(fā)展環(huán)境息息相關(guān)。“中國(guó)發(fā)展生成式人工智能具有獨(dú)特優(yōu)勢(shì)，”于凱迪表示，“首先在市場(chǎng)需求方面，中國(guó)對(duì)于智能對(duì)話、內(nèi)容創(chuàng)造、知識(shí)管理等領(lǐng)域的應(yīng)用需求量巨大，涌現(xiàn)了大量的商業(yè)機(jī)會(huì)；此外，中國(guó)龐大的互聯(lián)網(wǎng)用戶群體的在線活動(dòng)產(chǎn)生了大量的多模態(tài)數(shù)據(jù)，包括文本、圖像、音頻和視頻。這些數(shù)據(jù)資源對(duì)于生成式人工智能的訓(xùn)練和推理具有重要作用。但同時(shí)，受到加速計(jì)算芯片等硬件算力水平、人工智能框架的研究起步較晚，以及人工智能領(lǐng)域人才不足等限制，中國(guó)在人工智能領(lǐng)域技術(shù)性能方面還存在趕超空間。”
騰訊云副總裁、騰訊云智能解決方案負(fù)責(zé)人王麒對(duì)《中國(guó)電子報(bào)》記者表示，我國(guó)的科研實(shí)力和全球競(jìng)爭(zhēng)力在不斷提升，例如在自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)等領(lǐng)域的一些關(guān)鍵技術(shù)已經(jīng)達(dá)到了國(guó)際領(lǐng)先水平。來(lái)自政府層面的積極推動(dòng)加速了人工智能技術(shù)的產(chǎn)業(yè)化和商業(yè)化進(jìn)程，為企業(yè)創(chuàng)新和發(fā)展提供了良好的環(huán)境。
中國(guó)人工智能產(chǎn)業(yè)的迅猛發(fā)展引來(lái)世界矚目。工信部相關(guān)數(shù)據(jù)顯示，我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元，企業(yè)數(shù)量超過(guò)4400家，智能芯片、開(kāi)發(fā)框架、通用大模型等創(chuàng)新成果不斷涌現(xiàn)。世界知識(shí)產(chǎn)權(quán)組織數(shù)據(jù)顯示，2022年中國(guó)機(jī)構(gòu)人工智能專利申請(qǐng)數(shù)量就多達(dá)29853項(xiàng)，占當(dāng)年全球人工智能專利申請(qǐng)總量的40%以上。
數(shù)據(jù)來(lái)源：艾瑞咨詢研究院
也正因如此，在此次峰會(huì)上，來(lái)自中國(guó)的聲音受到了多方關(guān)注。多位專家強(qiáng)調(diào)，中國(guó)作為在人工智能研發(fā)領(lǐng)域領(lǐng)先的國(guó)家之一，在應(yīng)對(duì)人工智能風(fēng)險(xiǎn)和機(jī)遇的全球討論中不可或缺。歐盟委員會(huì)副主席維拉·朱羅瓦表示，“他們（中國(guó)的人工智能企業(yè)）太龐大了，不容忽視”“我認(rèn)為，他們（中方）在這里很重要。說(shuō)實(shí)話，對(duì)于防范真正巨大的全球?yàn)?zāi)難性風(fēng)險(xiǎn)，我們需要中國(guó)的參與”。
中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括表示：“時(shí)代已經(jīng)發(fā)生變化，當(dāng)前并不是說(shuō)有一個(gè)人工智能國(guó)際規(guī)則需要中國(guó)參與融入，現(xiàn)實(shí)狀態(tài)是，中國(guó)本身就是國(guó)際規(guī)則的推動(dòng)者和重要的共同制定者。人工智能時(shí)代，國(guó)家地位和力量對(duì)比發(fā)生了根本性的變化，我們將會(huì)是規(guī)則共同的締造者。”
推動(dòng)人工智能朝著科技向善發(fā)展
“從國(guó)內(nèi)市場(chǎng)來(lái)看，大模型的發(fā)展和落地目前還是比較初級(jí)的階段，是一個(gè)‘百花齊放’的狀態(tài)。大模型的出現(xiàn)，讓我們可以通過(guò)更強(qiáng)大的性能、更好的語(yǔ)言理解去和千行百業(yè)結(jié)合做提質(zhì)增效。但任何新技術(shù)、新業(yè)態(tài)的出現(xiàn)都會(huì)伴隨著一些問(wèn)題。”王麒坦言。
首當(dāng)其沖的就是數(shù)據(jù)問(wèn)題。“生成式人工智能發(fā)展需要大量數(shù)據(jù)投喂，如何合理使用數(shù)據(jù)而不侵犯隱私權(quán)，在合理的監(jiān)管范圍內(nèi)引導(dǎo)人工智能向善發(fā)展值得多方討論。”王欣說(shuō)道。他表示，由于生成式人工智能的“黑盒”屬性，整個(gè)產(chǎn)業(yè)在發(fā)展過(guò)程中仍處于“摸著石頭過(guò)河”的狀態(tài)，需要一定的監(jiān)管制度來(lái)規(guī)范、引導(dǎo)，防止某些領(lǐng)域出現(xiàn)不利于創(chuàng)新的壟斷。
人工智能的有效監(jiān)管的確存在比較高的技術(shù)門檻。于凱迪表示，大模型的訓(xùn)練和推理涉及深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)，監(jiān)管機(jī)構(gòu)需要具備相應(yīng)的專業(yè)知識(shí)和技術(shù)能力來(lái)理解和評(píng)估生成式人工智能的潛在風(fēng)險(xiǎn)。不同國(guó)家可能有不同的監(jiān)管要求和法律制度，甚至是不同的文化和價(jià)值觀，標(biāo)準(zhǔn)化監(jiān)管機(jī)制的達(dá)成也可能是難點(diǎn)之一。
隨著生成式人工智能的飛速發(fā)展，可生成的內(nèi)容形式更加豐富，功能更加多樣，監(jiān)管與發(fā)展的矛盾將更加突出。王娟認(rèn)為：“創(chuàng)新與監(jiān)管并非矛盾雙方，嚴(yán)監(jiān)管是謹(jǐn)慎發(fā)展的警示燈，但產(chǎn)業(yè)發(fā)展不充分也不能都‘甩鍋’監(jiān)管，人工智能產(chǎn)業(yè)的發(fā)展與其自身內(nèi)容基礎(chǔ)、原有研究范式及社會(huì)群體的行為習(xí)慣都有很大關(guān)系。”
對(duì)于新興技術(shù)，仍然可以建立有效的監(jiān)督機(jī)制。比如，可以針對(duì)生成式人工智能所應(yīng)用的不同領(lǐng)域的特點(diǎn)和風(fēng)險(xiǎn)程度進(jìn)行分類，對(duì)于高風(fēng)險(xiǎn)領(lǐng)域，類似醫(yī)療行業(yè)或者包含個(gè)人身份信息、財(cái)務(wù)記錄或其他敏感信息的金融領(lǐng)域，可以采取更嚴(yán)格的監(jiān)管措施；還可以針對(duì)技術(shù)發(fā)展的不同階段采取不同的監(jiān)管策略等。
于凱迪建議，要充分釋放生成式人工智能的發(fā)展?jié)摿?，科技企業(yè)首先要避免盲目跟風(fēng)、一哄而上的概念炒作和同質(zhì)化研發(fā)，應(yīng)充分研判不同應(yīng)用領(lǐng)域下的場(chǎng)景和業(yè)務(wù)特點(diǎn)，明確垂直領(lǐng)域Know-how（技術(shù)訣竅），從而更準(zhǔn)確地定位生成式人工智能技術(shù)在不同領(lǐng)域的應(yīng)用，更快形成商業(yè)閉環(huán)；其次是要重視生態(tài)培育，可以通過(guò)建立開(kāi)放的平臺(tái)，為開(kāi)發(fā)者、研究人員和合作伙伴提供接口和工具，促進(jìn)技術(shù)共享和合作。
“未來(lái)幾年是人工智能技術(shù)躍遷的重要窗口期，”王欣表示，“要推進(jìn)人工智能與產(chǎn)業(yè)融合，把握產(chǎn)業(yè)發(fā)展主動(dòng)權(quán)。技術(shù)創(chuàng)新的同時(shí)，需要政策創(chuàng)新的護(hù)航。面對(duì)人工智能發(fā)展可能引發(fā)的潛在風(fēng)險(xiǎn)，也必須前瞻研判，守住法律和倫理底線，推動(dòng)人工智能朝著科技向善的方向發(fā)展。”
