人工智能(AI)和道德倫理的標(biāo)準(zhǔn)在哪里?

黃先生斜杠青年
AI倫理領(lǐng)域通常分為兩個(gè)領(lǐng)域:一個(gè)涉及指導(dǎo)開發(fā)人工智能的人類的倫理學(xué),另一個(gè)涉及指導(dǎo)人工智能或機(jī)器人自身道德行為的機(jī)器倫理學(xué)。然而,這兩個(gè)領(lǐng)域并不是那么容易分得開。

使用一套開發(fā)人工智能的原則真的有用嗎?

2345截圖20211028093243.png

來(lái)源:Conyl Jay/Getty Images

我們?nèi)绾蝿?chuàng)造“好的”人工智能,機(jī)器合乎道德意味著什么,我們?nèi)绾卧诘赖碌幕A(chǔ)之上使用人工智能?Good in the Machine——2019年SCINEMA國(guó)際科學(xué)電影節(jié)的參賽作品——深入研究了這些問(wèn)題,我們道德的起源,以及人工智能和我們自己的道德指引之間的相互作用。

鑒于過(guò)去幾年有言論對(duì)人工智能的未來(lái)發(fā)出可怕的警告,人工智能倫理學(xué)領(lǐng)域已成為研究的重中之重。

這些警告來(lái)自牛津大學(xué)的尼克·博斯特羅姆等各種專家,也有來(lái)自埃隆·馬斯克和已故斯蒂芬·霍金等更多公眾人物的警告。

作為回應(yīng),有些人制定了一套原則來(lái)指導(dǎo)人工智能研究人員,并幫助他們談判人類道德和倫理的難題。

AI倫理領(lǐng)域通常分為兩個(gè)領(lǐng)域:一個(gè)涉及指導(dǎo)開發(fā)人工智能的人類的倫理學(xué),另一個(gè)涉及指導(dǎo)人工智能或機(jī)器人自身道德行為的機(jī)器倫理學(xué)。然而,這兩個(gè)領(lǐng)域并不是那么容易分得開。

機(jī)器倫理學(xué)歷史悠久。1950年,偉大的科幻作家Isaac Asimov在他的作品《機(jī)器人》中明確闡述了他著名的“機(jī)器人三定律”,并提出了這樣的建議:

機(jī)器人不得傷害人,或通過(guò)不作為允許人受到傷害。

機(jī)器人必須服從人類賦予它的命令,除非此類命令與第一定律相沖突。

只要這種保護(hù)不與第一或第二定律沖突,機(jī)器人必須保護(hù)自己的存在。

這些法律標(biāo)準(zhǔn)加在一起是阿西莫夫(和編輯約翰·W·坎貝爾)思考如何確保人工智能系統(tǒng)不會(huì)讓其創(chuàng)建者過(guò)于興奮(避免生產(chǎn)不安全或不受控制的人工智能)。

2004年,改編自《I,Robot》的電影上映,以人工智能為特色,該人工智能對(duì)三條法律的解釋導(dǎo)致了一項(xiàng)統(tǒng)治人類的計(jì)劃。

近幾年大火的西部世界也是如此。(注:本人最喜歡的美劇之一)。

為了突出這三條法律的道德原則的缺陷,一個(gè)由美國(guó)人工智能研究員Eliezer Yudkowsky領(lǐng)導(dǎo)的名為人工智能奇點(diǎn)研究所(現(xiàn)為機(jī)器智能研究所)的組織啟動(dòng)了一個(gè)名為“三法不安全”的在線項(xiàng)目。

2345截圖20211028093243.png

來(lái)源:Alex Gotfryd/CORBIS/Corbis

艾薩克·阿西莫夫在1950年闡述了他的“機(jī)器人三定律”。

Yudkowsky是超級(jí)智能人工智能的早期理論家,也是友好人工智能思想的支持者,他認(rèn)為,如果人工智能發(fā)展到阿西莫夫小說(shuō)中描繪的階段,這些原則將毫無(wú)希望地簡(jiǎn)單化了。

盡管這三項(xiàng)法律的缺點(diǎn)得到了廣泛承認(rèn),但從私營(yíng)企業(yè)到政府,許多組織仍然堅(jiān)持實(shí)施開發(fā)基于原則的人工智能道德系統(tǒng)的項(xiàng)目,其中一份文件列出了迄今為止發(fā)布的“84份包含人工智能道德原則或準(zhǔn)則的文件”。

這種對(duì)倫理原則的持續(xù)關(guān)注的部分原因是,雖然這三條法律旨在僅管理人工智能行為,但人工智能倫理原則上適用于人工智能研究人員以及他們開發(fā)的智能。AI的道德行為部分反映了設(shè)計(jì)和實(shí)施它們的人的道德行為,正因?yàn)槿绱?,AI道德的兩個(gè)領(lǐng)域密不可分。

如果我們要避免人工智能批評(píng)者設(shè)想的一些更災(zāi)難性的情況,人工智能開發(fā)需要強(qiáng)有力的道德指導(dǎo)。

國(guó)際非營(yíng)利組織Atomium-歐洲科學(xué)、媒體和民主研究所發(fā)起的AI4People于2018年發(fā)表的一份評(píng)論報(bào)告稱,其中許多項(xiàng)目制定了與醫(yī)學(xué)倫理學(xué)非常相似的一套原則:慈善(只做好事)、非惡意(不傷害)、自治(人類做出個(gè)人決定的權(quán)力)和正義。

對(duì)一些人來(lái)說(shuō),這種趨同為這些作為未來(lái)發(fā)展人工智能的可能指導(dǎo)原則提供了極大的可信度。

然而,牛津互聯(lián)網(wǎng)研究所和英國(guó)政府艾倫·圖靈研究所的布倫特·米特爾施塔特(Alan Turing Institute)認(rèn)為,這種方法被稱為“原則主義”,并不像看起來(lái)那么有希望。

醫(yī)學(xué)和人工智能研究領(lǐng)域之間存在顯著差異,這可能會(huì)破壞前者在后者背景下的道德原則的有效性。

他的第一個(gè)論點(diǎn)涉及共同的目標(biāo)和信托義務(wù),即醫(yī)生等值得信賴的專業(yè)人士將他人利益置于自身利益之上的職責(zé)。醫(yī)學(xué)顯然與促進(jìn)患者健康和福祉的共同目標(biāo)聯(lián)系在一起,這是“一個(gè)職業(yè)質(zhì)量的定義,使其從業(yè)者成為具有共同目標(biāo)、價(jià)值觀和培訓(xùn)的‘道德社區(qū)’的一部分”。

然而,對(duì)于人工智能研究領(lǐng)域來(lái)說(shuō),情況并非如此。“人工智能主要由私營(yíng)部門開發(fā),用于公共(例如刑事判決)和私人(例如保險(xiǎn))等”。“開發(fā)人員、用戶和受影響方的基本目標(biāo)不一定一致。”

同樣,私人人工智能研究中不存在職業(yè)的信托義務(wù)及其治理機(jī)制。

“人工智能開發(fā)人員不致力于公共服務(wù),在其他職業(yè)中,公共服務(wù)要求從業(yè)者在競(jìng)爭(zhēng)的業(yè)務(wù)或管理利益面前維護(hù)公共利益”。在人工智能研究中,“公共利益不優(yōu)先于商業(yè)利益”。

在一個(gè)相關(guān)點(diǎn)上,雖然醫(yī)學(xué)的專業(yè)文化規(guī)定了可以追溯到古希臘醫(yī)生的必要道德義務(wù)和美德,但“人工智能的發(fā)展沒(méi)有可比的歷史、同質(zhì)的職業(yè)文化和身份,也沒(méi)有類似的職業(yè)道德框架”。

醫(yī)學(xué)已經(jīng)很久沒(méi)有時(shí)間從希波克拉底傳統(tǒng)提供的最低限度指導(dǎo)的缺點(diǎn)中吸取教訓(xùn)。作為回應(yīng),它將適當(dāng)行為編纂為現(xiàn)代原則主義,為更全面、更令人滿意的道德指導(dǎo)提供了指導(dǎo)。

人工智能研究顯然是一個(gè)年輕得多的領(lǐng)域,缺乏這些豐富的歷史學(xué)習(xí)機(jī)會(huì)。使問(wèn)題進(jìn)一步復(fù)雜的是,醫(yī)學(xué)的應(yīng)用背景相對(duì)較窄,而“人工智能原則上可以在涉及人類專業(yè)知識(shí)的任何背景下部署”,導(dǎo)致其具有根本性的多學(xué)科和跨學(xué)科性,研究人員來(lái)自“不同的學(xué)科和專業(yè)背景,具有不協(xié)調(diào)的歷史、文化、激勵(lì)結(jié)構(gòu)和道德義務(wù)”。

這使得制定除了“廣泛接受的原則來(lái)指導(dǎo)負(fù)責(zé)人工智能開發(fā)、部署和治理的人和流程跨越截然不同的使用環(huán)境”外,非常困難。問(wèn)題在于將這些轉(zhuǎn)化為實(shí)際的良好做法。“在這個(gè)抽象的層面上,“有意義的指導(dǎo)可能是不可能的。”

最后,人工智能研究中“相對(duì)缺乏法律和專業(yè)問(wèn)責(zé)機(jī)制”。在醫(yī)學(xué)有多層次的法律和專業(yè)保護(hù)來(lái)維護(hù)專業(yè)標(biāo)準(zhǔn)的地方,人工智能開發(fā)中基本上不存在此類東西。研究表明,道德守則本身不會(huì)導(dǎo)致道德行為,這些守則不會(huì)“嵌入組織文化并得到積極的執(zhí)行”。

“不能認(rèn)為對(duì)自我監(jiān)管框架的嚴(yán)肅和長(zhǎng)期承諾是理所當(dāng)然的”。

人工智能研究需要在組織層面建立“具有約束力和高度可見(jiàn)的問(wèn)責(zé)結(jié)構(gòu)”,并鼓勵(lì)該領(lǐng)域的實(shí)際道德實(shí)踐為更高級(jí)別的原則提供信息,而不僅僅是依賴自上而下的原則主義。同樣,關(guān)注組織道德而不是職業(yè)道德,同時(shí)呼吁人工智能開發(fā)專業(yè)化(部分領(lǐng)域通過(guò)向高風(fēng)險(xiǎn)的人工智能開發(fā)人員發(fā)放許可證)。

對(duì)人工智能倫理學(xué)未來(lái)的最終建議是敦促人工智能研究人員不要將倫理問(wèn)題視為需要“解決”的設(shè)計(jì)問(wèn)題。“假設(shè)非常古老和復(fù)雜的規(guī)范問(wèn)題僅靠技術(shù)修復(fù)或良好的設(shè)計(jì)就可以解決,那就是太天真了”。

相反,“應(yīng)該期待和歡迎棘手的原則分歧,因?yàn)樗鼈兗确从沉藝?yán)肅的道德考慮,也反映了思想的多樣性。它們不代表失敗,也不需要“解決”。道德是一個(gè)過(guò)程,而不是目的地。人工智能倫理的真正工作現(xiàn)在才剛剛開始,實(shí)施我們的最崇高的原則,未來(lái)任重道遠(yuǎn)。

THEEND

最新評(píng)論(評(píng)論僅代表用戶觀點(diǎn))

更多
暫無(wú)評(píng)論