雖然人工智能可以解決很多問題，但由于這種技術(shù)存在“黑盒子”問題，因此沒有一個(gè)人能夠確切知道它的內(nèi)部運(yùn)作方式，因而可能引發(fā)嚴(yán)重問題。
雖然人工智能可以解決很多問題，但由于這種技術(shù)存在“黑盒子”問題，因此沒有一個(gè)人能夠確切知道它的內(nèi)部運(yùn)作方式，因而可能引發(fā)嚴(yán)重問題。
去年，一輛古怪的無人駕駛汽車開上了新澤西州蒙茅斯郡寧?kù)o的道路。這輛實(shí)驗(yàn)用車是由芯片制造商英偉達(dá)開發(fā)的，它的外觀與其他無人駕駛汽車別無二致，但與谷歌(微博)、特斯拉和通用汽車展示的系統(tǒng)不同，這輛汽車證明了人工智能的強(qiáng)大能量。
它并沒有遵循工程師提供的任何指令，而是通過觀察人類司機(jī)的駕駛方式，完全依賴算法自學(xué)成才。
讓一輛汽車自學(xué)成才確實(shí)令人驚喜，但也帶來了一絲不安，因?yàn)槲覀儾⒉煌耆宄侨绾沃贫Q策的。車身傳感器收集的信息會(huì)直接傳輸?shù)骄薮蟮娜斯ど窠?jīng)網(wǎng)絡(luò)，在那里處理數(shù)據(jù)，然后生成相應(yīng)的指令，引導(dǎo)汽車操縱方向盤、剎車和其他系統(tǒng)。
最終的結(jié)果似乎符合你對(duì)一個(gè)人類駕駛員的預(yù)期。但如果它有朝一日做出什么令人意外的舉動(dòng)，比如撞到路邊的樹木，或在綠燈前停止不動(dòng)，那該如何是好？
以現(xiàn)在的情況來看，可能很難找出背后的原因。人工智能系統(tǒng)十分復(fù)雜，就連設(shè)計(jì)它的工程師都難以分辨某個(gè)具體行動(dòng)背后的邏輯。你又不能直接向它詢問原因：目前還沒有一種明確的方式可以設(shè)計(jì)出這樣的系統(tǒng)，從而隨時(shí)解釋它每一步行動(dòng)背后的原因。
這種汽車的神奇思維引出了人工智能領(lǐng)域的一個(gè)若隱若現(xiàn)的問題。這輛汽車的底層采用了名為深度學(xué)習(xí)的人工智能技術(shù)，最近幾年的許多研究都表明，這項(xiàng)技術(shù)很擅長(zhǎng)解決很多問題，而且已經(jīng)廣泛部署在圖像說明、語音識(shí)別、語言翻譯等諸多領(lǐng)域領(lǐng)域。還有人希望用同樣的技術(shù)診斷惡性疾病，制定數(shù)百億美元的交易策略，甚至通過數(shù)不清的其他方式改變一個(gè)又一個(gè)的行業(yè)。
但除非你找到一種方式，讓它的開發(fā)者充分理解深度學(xué)習(xí)技術(shù)，并對(duì)用戶肩負(fù)起應(yīng)負(fù)的責(zé)任，否則這翻暢想就無法實(shí)現(xiàn)——或者說，不應(yīng)該實(shí)現(xiàn)。如若不然，就很難預(yù)測(cè)何時(shí)出現(xiàn)問題——畢竟，按照目前的設(shè)計(jì)，這些系統(tǒng)肯定會(huì)出現(xiàn)問題。但英偉達(dá)之所以仍在測(cè)試，卻有它自己的原因。
各種各樣的數(shù)學(xué)模型已經(jīng)可以幫助人們?cè)诩籴?、放貸和招聘領(lǐng)域制定決策。如果你可以評(píng)估這些數(shù)學(xué)模型，那就有可能理解它們背后的邏輯。但銀行、軍隊(duì)和雇主現(xiàn)在都把精力轉(zhuǎn)向了更加復(fù)雜的機(jī)器學(xué)習(xí)方法，使得自動(dòng)化決策流程變得完全無法理解。
作為其中最常見的一種技術(shù)，深度學(xué)習(xí)與以往的計(jì)算機(jī)編程截然不同?！斑@個(gè)問題已經(jīng)凸顯出來，今后還將越來越受重視?！甭槭±砉W(xué)院機(jī)器學(xué)習(xí)應(yīng)用教授多米·加考拉（Tommi Jaakkola）說，“無論是投資決策、醫(yī)療決策還是軍事決策，你肯定都不希望把權(quán)力交給一個(gè)‘黑盒子’?！?/span>
有人認(rèn)為，向人工智能系統(tǒng)質(zhì)問其結(jié)論背后的原因是一項(xiàng)合法的基本權(quán)利。從2018年夏天開始，歐盟可能就會(huì)要求相關(guān)企業(yè)具備相應(yīng)的能力，以便向用戶解釋自動(dòng)化系統(tǒng)的決策理由。這或許難以實(shí)現(xiàn)，即便是對(duì)那些表面看來相對(duì)簡(jiǎn)單的系統(tǒng)也同樣如此，包括那些使用深度學(xué)習(xí)技術(shù)投放廣告和推薦歌曲的應(yīng)用和網(wǎng)站。
這些服務(wù)所使用的電腦采用了自我編程模式，外界無法理解它們的行為方式。就連負(fù)責(zé)開發(fā)這些應(yīng)用的工程師也無法解釋它們的行為。
這便引發(fā)了許多難以置信的問題。隨著科技不斷進(jìn)步，我們可能很快就會(huì)跳過某個(gè)門檻，到那時(shí)，必須要給予人工智能極大的信任才能順利使用這些系統(tǒng)。誠(chéng)然，人類很多時(shí)候也無法解釋我們自己的思維過程——但我們卻可以通過各種各樣的方式利用直覺來信任或評(píng)價(jià)他人。但對(duì)于這些思維和決策方式都不同于人類的機(jī)器來說，有沒有可能實(shí)現(xiàn)這一點(diǎn)呢？
我們之前從未開發(fā)過連它的創(chuàng)造者都無法完全理解的機(jī)器。我們能否與這些無法預(yù)測(cè)、無法理解的機(jī)器展開順暢的溝通，保持和睦的關(guān)系？帶著這些問題，我開始研究谷歌、蘋果和很多公司的人工智能算法，還找到了一位當(dāng)今時(shí)代最偉大的哲學(xué)家。
醫(yī)學(xué)嘗試
2015年，紐約西奈山醫(yī)院（Mount Sinai Hopital）決定用深度學(xué)習(xí)分析該院龐大的病歷數(shù)據(jù)。這個(gè)數(shù)據(jù)集里包含病人的數(shù)百個(gè)變量，都來自他們的檢測(cè)結(jié)果、醫(yī)生面診等環(huán)節(jié)。由此催生了一個(gè)名為Deep Patient的項(xiàng)目，它利用70萬病人的數(shù)據(jù)進(jìn)行訓(xùn)練，然后對(duì)新的病例展開測(cè)試：結(jié)果顯示，它在預(yù)測(cè)疾病方面表現(xiàn)十分優(yōu)異。
在沒有任何專家指導(dǎo)的情況下，Deep Patient挖掘了隱藏在醫(yī)院數(shù)據(jù)中的各種模式，甚至可以借此了解人們何時(shí)有可能患上肝癌等各種疾病。在西奈山醫(yī)院負(fù)責(zé)這個(gè)項(xiàng)目的喬爾·杜德利（Joel Dudley）表示，有很多方法都很適合通過病例來預(yù)測(cè)疾病。但他也補(bǔ)充道，“這種方法效果好很多?！?/span>
與此同時(shí)，Deep Patient也有些令人疑惑。他在預(yù)測(cè)精神分裂癥等精神疾病方面的表現(xiàn)出奇得好，但由于精神內(nèi)科醫(yī)生向來很難預(yù)測(cè)精神分裂，所以杜德利想知道，這套系統(tǒng)究竟是如何做到的。
他至今沒有找到答案，這套新系統(tǒng)沒有透露出任何理由。如果想讓Deep Patient真正為醫(yī)生提供幫助，最理想的情況就是闡述這種預(yù)測(cè)背后的邏輯，確保整個(gè)過程精確且有事實(shí)依據(jù)——例如，醫(yī)生給某人開具的處方藥物是否發(fā)生了某種變化?！拔覀兛梢蚤_發(fā)這種模型，”杜德利說，“但卻并不知道它是如何工作的。”
人工智能并非總是如此。最初，關(guān)于可以理解、可以解釋的人工智能應(yīng)該是什么樣子，出現(xiàn)了兩派觀點(diǎn)。
很多人認(rèn)為，最有意義的機(jī)器應(yīng)該根據(jù)規(guī)則和邏輯做出判斷，這樣一來，任何愿意了解代碼的人都可以理解它的內(nèi)部工作原理。
還有人認(rèn)為，如果機(jī)器從生物學(xué)領(lǐng)域獲得啟發(fā)，通過觀察和經(jīng)驗(yàn)來學(xué)習(xí)，就更容易實(shí)現(xiàn)智能。這就意味著把編程任務(wù)交給機(jī)器自己來完成。解決問題時(shí)，不再需要程序員編寫命令，而是由程序根據(jù)樣本數(shù)據(jù)和渴望的輸出結(jié)果來自主生成算法。已經(jīng)成為當(dāng)今最強(qiáng)大人工智能系統(tǒng)的機(jī)器學(xué)習(xí)技術(shù)就遵循了后一條道路：本質(zhì)上是由機(jī)器自主編程。
這種算法起初的實(shí)際應(yīng)用范圍非常有限，在1960和1970年代，還僅限于一些邊緣領(lǐng)域。之后，很多行業(yè)的電腦化普及和大型數(shù)據(jù)集的涌現(xiàn)重新點(diǎn)燃了人們的興趣。這也推動(dòng)了更加強(qiáng)大的機(jī)器學(xué)習(xí)技術(shù)的發(fā)展，尤其是新一代的人工神經(jīng)網(wǎng)絡(luò)。到1990年代末，神經(jīng)網(wǎng)絡(luò)已經(jīng)可以自動(dòng)對(duì)手寫字母進(jìn)行數(shù)字化處理。
但直到這個(gè)十年初期，經(jīng)過了一系列聰明的調(diào)整和提煉之后，真正大規(guī)?！蛘哒嬲吧疃取薄纳窠?jīng)網(wǎng)絡(luò)才在自動(dòng)感知領(lǐng)域?qū)崿F(xiàn)了重大提升。如今的人工智能爆發(fā)都要?dú)w功于深度學(xué)習(xí)，它為計(jì)算機(jī)賦予了無與倫比的力量，包括實(shí)現(xiàn)與人類相似的口語能力，這種技術(shù)非常復(fù)雜，根本無法通過手動(dòng)編程來實(shí)現(xiàn)。深度學(xué)習(xí)還改變了計(jì)算機(jī)視覺，并大幅提升了機(jī)器翻譯效果。它現(xiàn)在可以用于引導(dǎo)醫(yī)療、金融、生產(chǎn)等各個(gè)領(lǐng)域的關(guān)鍵決策。
黑盒效應(yīng)
與手動(dòng)編碼的系統(tǒng)相比，機(jī)器學(xué)習(xí)技術(shù)的工作方式天生就很模糊，即便是對(duì)計(jì)算機(jī)科學(xué)家來說也同樣如此。這并不意味著未來的所有人工智能技術(shù)都會(huì)同樣難以理解。但從特性上看，深度學(xué)習(xí)的確像是一個(gè)“黑盒子”。
你無法通過直接研究深度神經(jīng)網(wǎng)絡(luò)來了解它的工作模式。神經(jīng)網(wǎng)絡(luò)得出的推論，嵌入在成千上萬個(gè)模擬神經(jīng)元的行為之中，它們組成了數(shù)十甚至數(shù)百個(gè)雜亂相連的不同層次。第一層的每個(gè)神經(jīng)元都負(fù)責(zé)接收輸入信息，例如一個(gè)圖像中某個(gè)像素的強(qiáng)度，然后通過計(jì)算來輸出新的信號(hào)。在復(fù)雜的網(wǎng)絡(luò)中，這些輸出結(jié)果會(huì)進(jìn)一步成為下一層神經(jīng)元的輸入信息，如此往復(fù)，直到生成整體輸出結(jié)果。
另外，還有一個(gè)被稱作反向傳播的過程，可以通過調(diào)整個(gè)別神經(jīng)元的計(jì)算讓神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)生成期望的輸出結(jié)果。
因?yàn)樯疃染W(wǎng)絡(luò)有那么多層，所以可以從不同的抽象層面認(rèn)識(shí)事物。例如，在一套專門為了識(shí)別狗而打造的系統(tǒng)中，底層神經(jīng)元可以識(shí)別輪廓或顏色等簡(jiǎn)單的元素，較高層次的神經(jīng)元?jiǎng)t識(shí)別皮毛或眼睛等更加復(fù)雜的元素，最頂層則負(fù)責(zé)識(shí)別狗這個(gè)整體。簡(jiǎn)單來說，同樣的方法也可以用于處理其他任務(wù)，從而讓機(jī)器實(shí)現(xiàn)自學(xué)，包括說話時(shí)構(gòu)成語音的聲音，在文本中構(gòu)成句子的字母和單詞，或者開車時(shí)轉(zhuǎn)動(dòng)方向盤的動(dòng)作。
現(xiàn)在出現(xiàn)了一些具有獨(dú)創(chuàng)性的策略，試圖捕捉并詳細(xì)解釋這類系統(tǒng)中發(fā)生了哪些事情。2015年，谷歌研究人員修改了一套深度學(xué)習(xí)圖形識(shí)別算法，使之不再識(shí)別照片中的物體，而是生成或修改這樣的物體。通過反向運(yùn)行這種算法，便可了解算法在識(shí)別鳥或建筑時(shí)使用了哪些特征。
這個(gè)名為Deep Dream的項(xiàng)目生成的圖片，呈現(xiàn)出動(dòng)物從云朵和植物中浮現(xiàn)的奇異效果，還有寶塔從森林或山脈中盛開的幻覺效果。這些圖片證明深度學(xué)習(xí)并非完全不可理解，同時(shí)也表明這些算法把注意力集中在熟悉的視覺特征上，包括鳥嘴和羽毛。不過，這些圖片也透露出深度學(xué)習(xí)與人類知覺的差異，正因如此，人工智能往往可以利用那些被我們忽略的信息。
谷歌研究人員指出，當(dāng)算法生成啞鈴的圖像時(shí)，還生成了一個(gè)抓著啞鈴的人類胳膊。這表明機(jī)器已經(jīng)認(rèn)定，胳膊也是啞鈴的一部分。
進(jìn)一步的發(fā)展是因?yàn)榻梃b了來自神經(jīng)科學(xué)和認(rèn)知科學(xué)領(lǐng)域的想法。懷俄明大學(xué)助理教授杰夫·克魯尼（Jeff Clune）已經(jīng)部署了相當(dāng)于人工智能的光幻覺來測(cè)試深度神經(jīng)網(wǎng)絡(luò)。2015年，克魯尼的團(tuán)隊(duì)展示了如何利用某些圖片欺騙神經(jīng)網(wǎng)絡(luò)，使之得出錯(cuò)誤的結(jié)論，原因在于這些圖片利用了系統(tǒng)所尋找的底層模式。
作為克魯尼的合作者，詹森·尤辛斯基（Jason Yosinski）也開發(fā)了一個(gè)像插入大腦的探針一樣的工具。他的工具瞄準(zhǔn)了神經(jīng)網(wǎng)絡(luò)中的任意一個(gè)神經(jīng)元，然后尋找對(duì)其激活程度最高的圖片。結(jié)果出現(xiàn)了一些抽象的圖片（就像印象派畫家繪制的火烈鳥或校車），凸顯出及其感知能力的神秘特性。
事關(guān)重大
但我們需要的不只是一窺人工智能的思維方式，而且這個(gè)問題并不容易解決。深度神經(jīng)網(wǎng)絡(luò)中的運(yùn)算之間的相互影響才是高層次模式識(shí)別和復(fù)雜決策過程的核心，但這些運(yùn)算是一片由數(shù)學(xué)函數(shù)和變量構(gòu)成的沼澤。
“如果你有一個(gè)很小的神經(jīng)網(wǎng)絡(luò)，或許可以理解它。”加考拉說，“可一旦規(guī)模巨大，每一層都有數(shù)千個(gè)單元，或者總共擁有數(shù)百個(gè)層次，那就完全無法理解?！?/span>
加考拉辦公室隔壁是雷吉納·巴茲雷（Regina Barzilay），這位麻省理工學(xué)院的教授致力于把機(jī)器學(xué)習(xí)應(yīng)用于醫(yī)療領(lǐng)域。幾年前，當(dāng)時(shí)43歲的她被診斷出乳腺癌。診斷本身令人震驚，但更令巴茲雷失望的是，沒有人使用尖端的統(tǒng)計(jì)學(xué)和機(jī)器學(xué)習(xí)技術(shù)為腫瘤學(xué)研究提供幫助，或者引導(dǎo)病人的治療。
她還表示，人工智能擁有很大的潛力改革醫(yī)療行業(yè)，但她也意識(shí)到，這項(xiàng)技術(shù)的潛力不僅局限于病例。她還希望使用更多尚未充分利用的數(shù)據(jù)，包括影響數(shù)據(jù)、病理學(xué)數(shù)據(jù)以及各種各樣的信息。
在去年結(jié)束了癌癥治療后，巴茲雷和她的學(xué)生開始與麻省綜合醫(yī)院的醫(yī)生合作開發(fā)一套系統(tǒng)，可以通過挖掘病理學(xué)報(bào)告來尋找那些具備研究人員感興趣的臨床表現(xiàn)的病人。然而，巴茲雷發(fā)現(xiàn)，系統(tǒng)需要解釋自己背后的邏輯。所以，她與加考拉和一個(gè)學(xué)生增加了一個(gè)步驟：這套系統(tǒng)會(huì)把它認(rèn)為代表某種模式的文本片段提取出來，并加以強(qiáng)調(diào)。
巴茲雷和她的學(xué)生還開發(fā)了一套能夠通過乳房X光片找到早期乳腺癌跡象的深度學(xué)習(xí)算法，他們希望讓這套系統(tǒng)具備一定的解釋能力?！暗拇_需要讓機(jī)器和人類展開協(xié)作?！卑推澙渍f。
美國(guó)軍方也投資數(shù)十億美元，希望使用機(jī)器學(xué)習(xí)來控制汽車和飛機(jī)、識(shí)別目標(biāo)、過濾海量情報(bào)數(shù)據(jù)。這一領(lǐng)域甚至比醫(yī)療行業(yè)更期待透明的算法，所以國(guó)防部將可解釋性視作一大關(guān)鍵障礙。
美國(guó)國(guó)防部高等研究項(xiàng)目署（DARPA）的項(xiàng)目經(jīng)理大衛(wèi)·岡寧（David Gunning）負(fù)責(zé)一個(gè)名為可解釋人工智能（Explainable Artificial Intelligence）的計(jì)劃。作為該部門的一位銀發(fā)老兵，他之前在DARPA負(fù)責(zé)的項(xiàng)目最終促成了Siri的誕生。岡寧透露，自動(dòng)化已經(jīng)滲透到無數(shù)的軍事領(lǐng)域。情報(bào)分析師正在測(cè)試機(jī)器算法，希望通過大量的監(jiān)控?cái)?shù)據(jù)判斷各種模式。
很多無人駕駛汽車和飛機(jī)也在開發(fā)和測(cè)試過程中。但士兵可能不會(huì)喜歡這種無法解釋自己行為的機(jī)器坦克，而分析師在按照這些沒有明確邏輯的信息采取行動(dòng)的時(shí)候，也可能有所遲疑?！皬倪@些機(jī)器學(xué)習(xí)天生就容易發(fā)出錯(cuò)誤警報(bào)，所以情報(bào)分析師需要額外的幫助來明白系統(tǒng)為何會(huì)給出某條建議。”岡寧說。
今年3月，DARPA從學(xué)術(shù)和工業(yè)界選擇了13個(gè)資助項(xiàng)目，納入了岡寧的這個(gè)計(jì)劃。其中一些項(xiàng)目會(huì)以華盛頓大學(xué)教授卡洛斯·古斯特林（Carlos Guestrin）的成果作為基礎(chǔ)。他和他的同事開發(fā)了一種方法，可以讓機(jī)器學(xué)習(xí)系統(tǒng)闡述其輸出結(jié)果的基本原理。也就是說，借助這種方法，電腦會(huì)從數(shù)據(jù)集中自動(dòng)找到一些樣本，然后給出簡(jiǎn)短的解釋。
例如，一套用于尋找恐怖分子郵件的系統(tǒng)，可能會(huì)在訓(xùn)練和決策過程中使用數(shù)以百萬的樣本信息。但利用華盛頓團(tuán)隊(duì)的方法，便可突出顯示在信息中找到的特定關(guān)鍵詞。古斯特林的團(tuán)隊(duì)也針對(duì)圖形識(shí)別系統(tǒng)設(shè)計(jì)了一些方法，通過標(biāo)注圖片上最重要的部分來暗示它們的判斷邏輯。
保持謹(jǐn)慎
但這類模式的缺點(diǎn)在于，系統(tǒng)提供的解釋往往過于簡(jiǎn)單，因此可能缺失一些關(guān)鍵信息。
“我們尚未真正實(shí)現(xiàn)目標(biāo)，那就是讓人工智能與我們對(duì)話，向我們解釋?！惫潘固亓终f，“我們距離真正能夠解讀的人工智能還有很長(zhǎng)距離?！?/span>
即便不是在癌癥診斷或軍事演習(xí)這種重要活動(dòng)中，這一問題也會(huì)體現(xiàn)出來。如果想要普及人工智能技術(shù)，使之成為我們?nèi)粘Ｉ钪械囊粋€(gè)有益組成部分，了解人工智能的工作邏輯就顯得尤其重要。蘋果Siri團(tuán)隊(duì)負(fù)責(zé)人湯姆·克魯伯（Tom Cruber）表示，可解釋性是他的團(tuán)隊(duì)嘗試讓Siri更聰明的過程中的關(guān)鍵考量因素。
克魯伯不肯透露Siri未來的具體計(jì)劃，但可以想見的是，如果你收到了Siri推薦的餐館信息，你肯定希望知道背后的原因。
蘋果人工智能研究總監(jiān)、卡內(nèi)基梅隆大學(xué)副教授魯斯蘭·薩拉庫(kù)特迪諾夫（Ruslan Salakhutdinov）認(rèn)為，可解釋性是人類與人工智能關(guān)系發(fā)展的核心。“這能帶來信任。”他說。
正如很多人類行為無法詳細(xì)解釋一樣，人工智能可能也無法解釋它的一切行為?！凹词褂腥四軌蜥槍?duì)自己的行為給你一個(gè)合理的解釋，很可能也不夠全面，人工智能同樣如此?！笨唆斈嵴f，“這或許正是智能的天然屬性，只有一部分可以用理性來解釋，有的只是本能或潛意識(shí)，根本無法解釋。”
倘若如此，我們某些時(shí)候可能必須盲目相信人工智能的判斷，否則就只能拋棄它。類似地，具體的判斷也必須考慮社交智能。正如社會(huì)的基礎(chǔ)是一套關(guān)于預(yù)期行為的合約，我們?cè)O(shè)計(jì)人工智能系統(tǒng)時(shí)，也需要尊重和適應(yīng)社會(huì)規(guī)范。如果能夠創(chuàng)造機(jī)器人坦克和其他殺人機(jī)器，那就必須確保它們的決策過程符合我們的道德判斷。
為了理解這些形而上的概念，我找到了塔夫斯大學(xué)的丹尼爾·丹尼特（Daniel Dennett），他是一位著名的哲學(xué)家和認(rèn)知科學(xué)家，專門研究意識(shí)和心靈。在他的新書《From Bacteria to Bach and Back》是一本關(guān)于意識(shí)的廣博論述，其中有一個(gè)章節(jié)認(rèn)為智能的進(jìn)化本身就是創(chuàng)造一套連創(chuàng)造者也無法理解的系統(tǒng)。
“問題在于，我們擁有哪些條件來聰明地做到這一點(diǎn)——我們要求它們達(dá)到什么標(biāo)準(zhǔn)？要求我們自己達(dá)到什么標(biāo)準(zhǔn)？”他對(duì)我說。
他還針對(duì)可解釋性的問題提出了警告。
“我認(rèn)為，如果我們希望使用并依靠這些東西，那就應(yīng)該盡可能明確地知道它們給出答案的邏輯和原因。”他說。但由于可能并不存在完美的答案，所以對(duì)待人工智能的解釋時(shí)，應(yīng)該像對(duì)待其他人類的解釋一樣保持一份謹(jǐn)慎——無論機(jī)器看起來有多么聰明。
“如果機(jī)器并不比我們更加擅長(zhǎng)解釋自己的行為，那就別相信它?！?/span>
