日前，“人工智能時(shí)代的技術(shù)與人文：跨學(xué)科對話”學(xué)術(shù)研討會(huì)在南科大舉行。本次會(huì)議共邀請了18位重要學(xué)者擔(dān)任主講嘉賓，其中9位是國內(nèi)人工智能領(lǐng)域的著名專家，9位是人文社科領(lǐng)域的知名學(xué)者。
出席會(huì)議的專家們普遍認(rèn)為，人工智能研究和應(yīng)用的各個(gè)結(jié)構(gòu)性層面，有眾多問題需要技術(shù)專家與人文學(xué)者一起來探討和解決。人工智能與人文學(xué)這一次歷史性的互動(dòng)和嵌合，對于雙方的發(fā)展而言都是一種歷史的機(jī)遇。
而筆者對這里的“發(fā)展”的理解是，它不只是指向更先進(jìn)的技術(shù)、更快的迭代速度等，也是一個(gè)讓人類停下來等一等倫理重建的問題。正如一位與會(huì)者所言，人工智能作為一種歷史性的技術(shù)進(jìn)步，它的“仿人類性”特征，使得它從一開始就不可避免地面臨了如何跨越人文價(jià)值種種界面的挑戰(zhàn)。
早在1978年9月，日本一家工廠的切割機(jī)器人突然“發(fā)瘋”，把正在值班的工人當(dāng)成鋼板切割了，這是歷史上首起機(jī)器人殺人事件。自那以后，人們就開始不斷想象機(jī)器人失控的可能性。好萊塢大片《終結(jié)者》系列中，人類研制的高級(jí)計(jì)算機(jī)控制系統(tǒng)“天網(wǎng)”有了自己的意志，將人類視為仇敵，剝奪了數(shù)以億計(jì)的生命，就可以視為這方面的一種巔峰想象。
不久前，一則有關(guān)人工智能的消息引起了很多人的關(guān)注——韓國科學(xué)技術(shù)院(KAIST)研發(fā)“殺手機(jī)器人”的計(jì)劃遭到了多國人工智能(AI)及機(jī)器人工學(xué)的專家聯(lián)合抵制。在強(qiáng)大的壓力之下，KAIST隨后不得不宣布取消“殺手機(jī)器人”計(jì)劃。
其實(shí)，2015年，人工智能領(lǐng)域的1000多名專家就聯(lián)合發(fā)表一封公開信，呼吁在世界范圍內(nèi)禁止“殺手機(jī)器人”。當(dāng)時(shí)還在世的著名科學(xué)家斯蒂芬·霍金，以及特斯拉首席執(zhí)行官埃隆·馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克都在這封信上簽了名。聯(lián)合國也曾耗時(shí)兩年完成了機(jī)器人倫理報(bào)告。
事實(shí)上，人工智能所面臨的科學(xué)倫理問題不只是機(jī)器可能失控而對人類構(gòu)成威脅，隨著它與人類生活的深度重合，隨著機(jī)器人與人類的界限變得日益模糊，許多隱藏的倫理問題都會(huì)逐漸暴露出來。
比如，人類能不能和機(jī)器人談戀愛?如果機(jī)器人能夠與人類互通心意，如何防止機(jī)器人深入個(gè)人生活、威脅人類隱私?多年前，有一道高考作文題叫《假如記憶可以移植》， 如果有一天，與人類身份界限打破了的、具有人類記憶的人工智能能夠進(jìn)行記憶移植，該如何避免倫理的混亂與失控?
一種普遍性共識(shí)是，無論技術(shù)如何發(fā)展，機(jī)器不能被賦予人的道德地位并且繼承人的尊嚴(yán)。近年來，多國科學(xué)家一直在呼吁，人們需要通過新的管理和監(jiān)管手段，為人工智能、機(jī)器人和“自主”系統(tǒng)的設(shè)計(jì)、生產(chǎn)、使用和治理，建立一個(gè)通用的、國際公認(rèn)的道德和法律框架。同樣，我們也需要在人文價(jià)值層面、科學(xué)倫理層面，建立對人工智能發(fā)展的必要審思，學(xué)會(huì)讓技術(shù)等一等人類的靈魂。
