本文來自中國電子信息產(chǎn)業(yè)發(fā)展研究院，作者/賽迪譯叢。
2021年11月，世界經(jīng)濟論壇發(fā)布了《人工智能治理之旅：發(fā)展與機遇》。為此報告提出若干政策建議，呼吁多利益攸關方采取“靈活治理”的方式，共同參與人工智能治理。賽迪智庫政策法規(guī)研究所對該報告進行了編譯，期望對我國有關部門有所幫助。
報告指出，人工智能技術取得飛速發(fā)展，但相關的治理能力和框架卻沒有及時跟進。近幾年，各方對治理人工智能提出了很多倫理道德原則，但如何在不扼殺創(chuàng)新的前提下管控風險并推動人工智能治理由原則向實踐轉化才是最關鍵的。
一、背景
在過去五年，人工智能治理取得了迅猛發(fā)展，構建人工智能監(jiān)管生態(tài)系統(tǒng)的速度大大提高，但如何以負責任的方式推動人工智能的應用和實踐依舊是當前面臨的迫切挑戰(zhàn)。人工智能有獨特的風險，簡單照抄現(xiàn)有政策工具并不能處理好這些問題，社會必須考慮在應用人工智能時完善相關手段和措施，以此來化解先進決策系統(tǒng)帶來的潛在風險。
二、人工智能發(fā)展歷程回顧
歷次工業(yè)革命既創(chuàng)造機遇，也帶來挑戰(zhàn)，迫使社會重新審視當時的治理結構能否有效維持監(jiān)管與創(chuàng)新之間的平衡。人工智能是推動第四次工業(yè)革命的引擎，圍繞人工智能及其安全防護措施將會出現(xiàn)諸多挑戰(zhàn)。對其歷史發(fā)展進程進行總結回顧十分重要，只有通過回顧過去，才能把握未來的發(fā)展方向。
（一）2010年以前：人工智能的冬天與解凍
早在人工智能發(fā)展初期，大家都認為人工智能發(fā)展到可以承擔權責的程度時，就有必要認真考慮治理方面的問題。即使是處于歷史學家認為的“人工智能冬天”（即人工智能及公眾興趣走低的時期），人們對人工智能帶來的后果和治理效果也抱有擔憂和恐慌。另外，人工智能的潛在應用范圍極廣、社會影響深遠，這勢必引發(fā)人們對隱私、安全、偏差、公正等議題的擔憂。因此，在制定政策時必須從多領域的現(xiàn)有框架中汲取經(jīng)驗，包括國際法、公共政策、數(shù)據(jù)治理與倫理道德規(guī)范等領域。
（二）2010年到2016年：人工智能加速發(fā)展帶來的挑戰(zhàn)
2010年以后人工智能的發(fā)展開始提速，主要源于三方面的突破：一是計算能力提升，二是云計算渠道增加，三是數(shù)字化數(shù)據(jù)量激增。同時，人工智能在深度學習方面也取得了明顯進展。
人工智能的快速發(fā)展及應用的確鼓舞人心，但同樣也引發(fā)了公眾對數(shù)據(jù)使用和侵犯隱私等多方面的擔憂。在獲取或開發(fā)深度學習技術的熱潮中，亟需防范的主要是涉及決策類的應用，如執(zhí)法、人力資源和金融等敏感領域的應用。此外，人工智能系統(tǒng)對特定社會群體的不公正對待現(xiàn)象及宏觀層面的關切也時有報道。
對那些希望快速從人工智能發(fā)展中受益的人來說，重點是如何在安全和創(chuàng)新之間保持平衡。人工智能開始加速發(fā)展，治理不到位自然也就成了“速度問題”（法律法規(guī)無法跟上技術進步）。
（三）2016年到2019年：發(fā)布原則與指南
到2016年，公眾越發(fā)意識到如果不對人工智能進行適當?shù)谋O(jiān)管和引導，將會干擾公眾生活，擴大社會不平等，加劇現(xiàn)有偏見，并破壞隱私，而所有這些都會削弱公眾對人工智能的信任，從而使人工智能造福社會的潛力消失殆盡。
（四）2019年至今：持續(xù)加速與治理創(chuàng)新
普及人工智能原則與道德指南有助于揭示人工智能跨國治理的關鍵要素。從2019年開始出現(xiàn)兩個轉折點：一是指明了實施上的差距，二是就原則轉化成可操作的治理機制問題點明了未來的努力方向。努力的目標基本上是“柔性”治理機制。盡管存在更傳統(tǒng)的治理形式（如直接禁用某些應用，或通過算法對立法倡議進行問責），但在規(guī)范的實際制定過程中仍以“柔性”治理機制為主。各主體對這一課題的日益關注，說明公眾普遍認為現(xiàn)有制度和規(guī)則已無法確保人工智能以負責任的方式向前發(fā)展。
三、從原則到實踐：在不扼殺創(chuàng)新的前提下管控風險，推動人工智能道德實用化
截至2020年，各國政府、倡議機構、國際組織、私營企業(yè)等已頒布了100多條人工智能指導原則，人工智能方面的國際合作已經(jīng)取得了長足進展。但仍有許多企業(yè)在“技術沖擊”面前手忙腳亂，人工智能治理自身的不確定性也開始增大，這一切都對原則向實踐的轉化構成了壓力。德勤事務所最近的一項調(diào)查顯示，多數(shù)受訪企業(yè)目前正在試圖通過內(nèi)部治理和正規(guī)的框架來解決問題，爭取在不扼殺創(chuàng)新的前提下管控風險。
（一）人工智能治理是實現(xiàn)負責任的人工智能的必經(jīng)之路
雖然面臨巨大風險，人工智能帶來的機遇仍是許多機構考慮的頭等大事。最近提出了“負責任的人工智能”（Responsible AI）一詞，描述的是一套確保人工智能應用不會“背叛”人類的辦法。這套辦法的核心是“創(chuàng)新型治理機制”，而“創(chuàng)新型治理機制”正迅速成為利用人工智能的公司之間的關鍵競爭差異。
（二）采用風險法來識別和消除治理差距
私企和公共部門面臨的最大問題之一都是缺乏優(yōu)先級。人工智能會給不同行業(yè)帶來巨大沖擊，但由于其技術仍在持續(xù)發(fā)展中，且人們對其能力和影響力還處于不斷認識中，其影響的程度和時間范圍都無法確定。近期至未來很長一段時間，人工智能的直接和間接影響將被大家逐漸認識，這也會進一步增加系統(tǒng)治理的復雜性。
（三）推動公眾了解和信任人工智能
在過去十年中，一些潛在的人工智能治理手段逐漸出現(xiàn)，主要是強化消費者對人工智能產(chǎn)品的消費意識，具體包括認證、標簽、獎勵等手段。通過這些手段，提高產(chǎn)品透明度來影響購買行為，再通過市場、聲譽和品牌的力量以及人工智能產(chǎn)品公司之間的競爭，促進消費者有效參與人工智能道德與責任決策。
（四）政府主導的人工智能治理
宏觀層面上，很多政府部門已經(jīng)開始圍繞人工智能采取有效措施，在制定有效人工智能規(guī)則和規(guī)范方面，壓力和迫切性并存。經(jīng)合組織的跟蹤調(diào)查表明：一些政策源于國家級人工智能戰(zhàn)略（如立法提案、跨國合伙關系、貿(mào)易協(xié)定條款等），另一些則是在較為柔性的規(guī)范定義法基礎上制定的，旨在化解風險，以此推動人工智能解決方案的出臺。
四、多利益攸關方參與的方法論
鑒于人工智能系統(tǒng)彼此交融的性質，各方如果單打獨斗，注定將失敗。反之，多利益攸關方共同參與治理，有助于提升全球范圍內(nèi)開發(fā)“負責任的人工智能”的能力。只有多利益攸關方共同參與才能獲取公眾和社會的認可，最終贏得大眾的信任。許多案例都充分證明：只要通過與跨區(qū)、跨界、跨業(yè)的利益攸關方建立建設性關系，并以此為基礎創(chuàng)建和維護負責任的人工智能治理機制，就有可能贏得公眾的信任。而要建立這些關系，就必須與人工智能的受眾進行開誠布公的對話，無論這些受眾是客戶還是公民。
（一）利益攸關方的參與
“多方參與”涉及的一個關鍵問題是各行為體的貢獻內(nèi)容和貢獻方式。每個利益攸關方都有自己獨特的視角，每個群體也都會堅持各自的利益。
（二）靈活治理
多利益攸關方的思路若與靈活治理的方法相結合，就會容納更多人參與決策流程，并可通過快速迭代來滿足每個人的需求。最終，決策將變得更具包容性，也更加以人為本。
下面的例子展示了多利益攸關方群體基于現(xiàn)有通用原則對特定背景和特定用途的框架進行設計和測試的方法。
（三）全球人工智能行動聯(lián)盟
2020年5月全球人工智能理事會批準了加速合作的提議，以推動全球合作，快速推廣人工智能監(jiān)管工具和實踐。世界經(jīng)濟論壇也于2021年發(fā)起了“全球人工智能行動聯(lián)盟”（GAIA）。該聯(lián)盟以世界經(jīng)濟論壇的全球多利益攸關方共同體為基礎，成員包括很多活躍在人工智能領域的頂級企業(yè)、政府和公民社會組織，這些機構在過去三年針對人工智能技術的開發(fā)和應用成功推出了多種交互操作式監(jiān)管機制。此外，聯(lián)盟還與論壇下設的“工業(yè)行動小組”和“通用數(shù)據(jù)倡議”（DCPI）密切合作，旨在推進全球各行業(yè)實現(xiàn)交互式操作。
譯自：
The AI Governance Journey:Development and Opportunities，November 2021 by World Economic Forum
