來源丨The Next Web
作者丨Tristan Greene
編譯丨科技行者
這個(gè)時(shí)代，距離迎來與人類“一樣聰明”機(jī)器智能方案，已提上日程。換句話說，我們終于在無數(shù)失敗的探索與破滅的期待之后，瞥見了一縷科幻小說般的AI發(fā)展曙光。
終有一天，也許是在幾十年之內(nèi)，我們可能會(huì)使用人工神經(jīng)網(wǎng)絡(luò)制造機(jī)器、以具備現(xiàn)實(shí)意義的方式模擬人類大腦。但到那個(gè)時(shí)候，具有如此威能的造物要如何保證安全？如何確保AI不會(huì)像人類這樣極易被外力所誘導(dǎo)與操控？
機(jī)器人，也會(huì)被催眠嗎？
AI領(lǐng)域的至高圣杯，無疑是實(shí)現(xiàn)與人類相信的智能水平。很多不熟悉這一專業(yè)領(lǐng)域的朋友往往被炒作性質(zhì)的報(bào)道所誤導(dǎo)，以為現(xiàn)代AI已經(jīng)具備極高的智能。
但事實(shí)上，世界上還沒有任何一臺(tái)機(jī)器人能夠直接走進(jìn)廚房，在無需外力幫助的前提下泡出一杯香濃的咖啡。
為什么這么簡單的工作也能難倒AI？因?yàn)樗€不具備真正的思考能力。AI并沒有“思維的舞臺(tái)”，也創(chuàng)造不出基于記憶及激勵(lì)因素的新穎思想。相反，它只是根據(jù)被告知的方式，將輸入內(nèi)容轉(zhuǎn)換為輸出結(jié)果。
但也有一些AI研究人員認(rèn)為，在深度學(xué)習(xí)之外，還有其他能夠?qū)崿F(xiàn)更趨“自然”的AI形式的途徑。
通往人工通用智能（AGI，普遍認(rèn)為AGI就是具備人類智能水平的AI）的常規(guī)道路之一，就是使用人工神經(jīng)網(wǎng)絡(luò)模擬人腦的運(yùn)作方式。但既然是要模擬人腦，那么機(jī)器智能是否也會(huì)被催眠師所俘獲？
有殺手機(jī)器人，就有殺手催眠機(jī)器人
有些人害怕“終結(jié)者”這樣毫無人性的機(jī)器會(huì)突然闖進(jìn)家門。但更恐怖的，也許反而是機(jī)器身上較為“人性”的一面。
作為極富爭議的領(lǐng)域之一，催眠術(shù)似乎擁有著神奇的力量。雖然不少學(xué)者都在發(fā)表論文質(zhì)疑催眠術(shù)的實(shí)際效果，但根據(jù)最近的研究結(jié)論，我們確實(shí)可以通過某個(gè)特定的字眼轉(zhuǎn)變?nèi)祟惖囊庾R(shí)狀態(tài)。當(dāng)然，這種事并不是百試百靈，其中多少有些“技巧”的成分在。
但如果把催眠術(shù)的這種特定效用推廣開來，我們可能真的需要擔(dān)心，未來人類打造的先進(jìn)機(jī)器人是不是也會(huì)受到類似的影響。
一般的玩笑式催眠當(dāng)然無傷大雅，但如果恐怖分子對交通信號(hào)燈的指控系統(tǒng)進(jìn)行催眠，甚至借此入侵?jǐn)?shù)百萬輛自動(dòng)駕駛汽車，引發(fā)的后果將不堪設(shè)想。
這么說，是不是有點(diǎn)危言聳聽？
并不全是。就目前來看，機(jī)器學(xué)習(xí)中的偏差/偏見已經(jīng)成為一大核心難題。在向機(jī)器提供大量人工造成或標(biāo)記的數(shù)據(jù)時(shí)，其中不可避免要存在某些偏差/偏見因素。正因?yàn)槿绱?，GPT-3對穆斯林建立起刻板印象，麻省理工也在使用Reddit數(shù)據(jù)進(jìn)行訓(xùn)練后得到了一個(gè)“精神病患者”性質(zhì)的AI模型。
事實(shí)上，AI系統(tǒng)采取的學(xué)習(xí)與思考方式越是趨近于人類，就越是可能像人類的頭腦那樣受到外部誘導(dǎo)的影響。
這種威脅真實(shí)存在。也許有一天，黑客們會(huì)使用對傳統(tǒng)計(jì)算機(jī)毫無影響的批量信號(hào)沖擊AI系統(tǒng)，借此操縱其思維方式。
能夠理解自然語音的AI系統(tǒng)甚至可能受到音頻操控，具備計(jì)算機(jī)視覺功能的AI系統(tǒng)則可能被精心設(shè)計(jì)的畫面所蒙蔽。從理論出發(fā)，具備人類智能的AI應(yīng)該也會(huì)像我們一樣在催眠之下迷失自我。
