就新興技術(shù)風(fēng)險(xiǎn)提出棘手問(wèn)題的 4 種方法

雖然防護(hù)措施可能不適用于全球人工智能軍事軍備競(jìng)賽,但在特定的使用案例和行業(yè)中,它們可以在更細(xì)化的層面上發(fā)揮作用。以負(fù)責(zé)任的采購(gòu)實(shí)踐、指導(dǎo)方針、有針對(duì)性的建議和監(jiān)管舉措為形式的防護(hù)措施非常普遍,而且已經(jīng)有了很多。

本文來(lái)自微信公眾號(hào)“計(jì)算機(jī)世界”。

作為CIO和技術(shù)領(lǐng)導(dǎo)者,我們幾乎總是扮演著技術(shù)布道者的角色,將主流技術(shù)和新興技術(shù)引入企業(yè),為企業(yè)帶來(lái)效益。

在與同行的合作中,我們擁有扎實(shí)的商業(yè)意識(shí),能夠仔細(xì)權(quán)衡創(chuàng)新和風(fēng)險(xiǎn),以獲得有價(jià)值的投資回報(bào)率,同時(shí)保護(hù)組織免受與每個(gè)項(xiàng)目相關(guān)的各種形式的風(fēng)險(xiǎn)。

多年來(lái),我們一直秉承這一理念,但由于技術(shù)的采用率、規(guī)模和影響越來(lái)越大,我們需要加強(qiáng)風(fēng)險(xiǎn)管理思維,包括研發(fā)和創(chuàng)新相關(guān)項(xiàng)目。這并不是要我們成為“盧德分子”或“技術(shù)拒絕者”,而是要我們警醒自己,加強(qiáng)風(fēng)險(xiǎn)管理思維,尤其是與變革性技術(shù)相關(guān)的風(fēng)險(xiǎn)管理思維,并在開(kāi)綠燈之前提出更難回答的問(wèn)題。

今天有什么新的不同?

技術(shù)總是被用于產(chǎn)生積極或消極的影響。今天的不同之處在于,我們看到了越來(lái)越大膽的雄心壯志,同時(shí)也看到了技術(shù)的快速應(yīng)用和廣泛影響?,F(xiàn)在,技術(shù)應(yīng)用曲線在幾個(gè)月甚至幾天內(nèi)就能達(dá)到數(shù)億人——ChatGPT在兩個(gè)月內(nèi)就獲得了超過(guò)1億的月活躍用戶,而Threads在短短五天內(nèi)就達(dá)到了1億用戶。現(xiàn)在,在人們完全了解技術(shù)之前,它就能在創(chuàng)紀(jì)錄的時(shí)間內(nèi)覆蓋全球受眾。

人工智能才剛剛起步,現(xiàn)在我們需要提出一些尖銳的問(wèn)題。Thinkers360 2023年人工智能信任指數(shù)(Thinkers360 AI Trust Index 2023)衡量了人工智能終端用戶和人工智能供應(yīng)商的年度情緒,發(fā)現(xiàn)超過(guò)75%的受訪者對(duì)當(dāng)今人工智能的信任程度表示“有點(diǎn)擔(dān)心”或“非常擔(dān)心”。歸根結(jié)底,這是一個(gè)我們信任哪些組織來(lái)推動(dòng)技術(shù)發(fā)展、我們信任他們代表我們做什么以及我們?nèi)绾我?guī)范其使用以盡可能快速、安全地進(jìn)行創(chuàng)新的問(wèn)題。

當(dāng)然,這些考慮因素中有許多具有國(guó)家和全球影響,但當(dāng)創(chuàng)新開(kāi)始影響你的組織時(shí),你也要對(duì)利益相關(guān)者和最終用戶負(fù)責(zé)。以下四個(gè)步驟可以幫助你進(jìn)行規(guī)劃,以及如何開(kāi)始或繼續(xù)提出有關(guān)技術(shù)的棘手問(wèn)題。

01|

從核心價(jià)值觀入手

組織的核心價(jià)值觀闡明了組織對(duì)自身和所有員工的行為要求。這些價(jià)值觀也可以指導(dǎo)我們不要做什么。谷歌的“不作惡”變成了Alphabet的“做正確的事”,當(dāng)其他一些組織不那么嚴(yán)謹(jǐn)時(shí),谷歌的“不作惡”就是為了指導(dǎo)組織。

這是一個(gè)起點(diǎn),但我們還需要審視未來(lái)提出的每項(xiàng)行動(dòng)和倡議,無(wú)論是內(nèi)部的還是現(xiàn)成的,以探索每一個(gè)良好的愿望可能導(dǎo)致的結(jié)果。常見(jiàn)的建議是,先從小規(guī)模、低復(fù)雜性、低風(fēng)險(xiǎn)的項(xiàng)目做起,積累經(jīng)驗(yàn)后再開(kāi)展規(guī)模更大、影響更廣的行動(dòng)。你還可以借鑒亞馬遜的技巧,詢問(wèn)決策或行動(dòng)是否可逆。如果是可逆的,那么風(fēng)險(xiǎn)顯然更小。

02|

探究變革性技術(shù)

這意味著要超越與項(xiàng)目相關(guān)的典型業(yè)務(wù)和技術(shù)問(wèn)題,必要時(shí)還要詢問(wèn)法律和道德問(wèn)題。雖然創(chuàng)新常常會(huì)因?yàn)閮?nèi)部政治因素(例如,NIH綜合癥(Not Invented Here Syndrome指社會(huì)、公司和組織中的一種文化現(xiàn)象。人們不愿意使用、購(gòu)買(mǎi)或接受某種產(chǎn)品、研究結(jié)果或者只是,不是出于技術(shù)或者法律因素,而只是因?yàn)樗鼇?lái)自某個(gè)地方。簡(jiǎn)言之“非我所創(chuàng),便毫無(wú)價(jià)值”)而遭到非建設(shè)性的質(zhì)疑。建設(shè)性的質(zhì)疑則是提出一些探究性的問(wèn)題,如錯(cuò)誤會(huì)產(chǎn)生什么影響?人工智能決策會(huì)不會(huì)只是簡(jiǎn)單的錯(cuò)誤,或者會(huì)不會(huì)變成災(zāi)難性的錯(cuò)誤?什么程度的仔細(xì)試點(diǎn)或?qū)嶋H測(cè)試可以幫助解決未知問(wèn)題并降低風(fēng)險(xiǎn)水平?在網(wǎng)絡(luò)安全、社會(huì)和機(jī)遇方面,可接受的風(fēng)險(xiǎn)水平是多少?

生命未來(lái)研究所(Future of Life Institute)等非營(yíng)利組織的工作著眼于人工智能和生物技術(shù)等變革性技術(shù),目標(biāo)是引導(dǎo)其造福生命,遠(yuǎn)離極端的大規(guī)模風(fēng)險(xiǎn)。這些組織和其他組織可以成為提高對(duì)當(dāng)前風(fēng)險(xiǎn)認(rèn)識(shí)的寶貴資源。

03|

在組織層面建立警戒線

雖然防護(hù)措施可能不適用于全球人工智能軍事軍備競(jìng)賽,但在特定的使用案例和行業(yè)中,它們可以在更細(xì)化的層面上發(fā)揮作用。以負(fù)責(zé)任的采購(gòu)實(shí)踐、指導(dǎo)方針、有針對(duì)性的建議和監(jiān)管舉措為形式的防護(hù)措施非常普遍,而且已經(jīng)有了很多。立法機(jī)構(gòu)也在加緊行動(dòng),最近的歐盟人工智能法案針對(duì)不同的風(fēng)險(xiǎn)等級(jí)提出了不同的規(guī)則,目的是在今年年底前達(dá)成協(xié)議。

在組織層面,一個(gè)簡(jiǎn)單的防護(hù)措施就是制定自己的企業(yè)使用政策,并酌情簽署各種行業(yè)協(xié)議。對(duì)于人工智能和其他領(lǐng)域,企業(yè)使用政策可以幫助用戶了解潛在的風(fēng)險(xiǎn)領(lǐng)域,從而管理風(fēng)險(xiǎn),同時(shí)還能鼓勵(lì)創(chuàng)新。

04|

不斷改進(jìn)風(fēng)險(xiǎn)治理

隨著技術(shù)的飛速發(fā)展,持續(xù)監(jiān)控創(chuàng)新和風(fēng)險(xiǎn)兩方面的發(fā)展并做出相應(yīng)調(diào)整非常重要。這意味著要根據(jù)需要進(jìn)行調(diào)整,甚至在出現(xiàn)重大風(fēng)險(xiǎn)或問(wèn)題時(shí)終止項(xiàng)目。例如,谷歌在消費(fèi)者市場(chǎng)推出谷歌眼鏡產(chǎn)品僅八個(gè)月后,就因各種日益加劇的隱私問(wèn)題而撤出。不過(guò),十多年后,該產(chǎn)品在更有針對(duì)性的企業(yè)應(yīng)用場(chǎng)景中獲得了青睞。

當(dāng)我們?cè)诮M織內(nèi)部擁抱人工智能等變革性技術(shù)時(shí),必須在創(chuàng)新風(fēng)險(xiǎn)等式的安全和風(fēng)險(xiǎn)治理方面花費(fèi)更多的時(shí)間和精力,以平衡技術(shù)不斷增長(zhǎng)的力量。

用Future of Life Institute的話來(lái)說(shuō),“只有當(dāng)我們能夠在技術(shù)不斷增長(zhǎng)的力量與我們?cè)O(shè)計(jì)和管理技術(shù)的智慧之間的競(jìng)賽中獲勝時(shí),文明才能繁榮昌盛。對(duì)于人工智能,贏得這場(chǎng)競(jìng)賽的最佳方式不是阻礙前者,而是通過(guò)支持人工智能安全研究和風(fēng)險(xiǎn)治理來(lái)加速后者。”

有時(shí)候,你必須放慢腳步,才能走得更快。

THEEND

最新評(píng)論(評(píng)論僅代表用戶觀點(diǎn))

更多
暫無(wú)評(píng)論