人工智能的致命弱點(diǎn)
深度學(xué)習(xí)是一種用于模式識(shí)別的人工智能技術(shù)，這是一種正全面進(jìn)入科學(xué)計(jì)算領(lǐng)域的成功技術(shù)。我們常在許多令人矚目的新聞標(biāo)題中看到它的身影，比如說它能夠比醫(yī)生更準(zhǔn)確地診斷疾病，又比如說它能通過自動(dòng)駕駛預(yù)防交通事故等等。然而，許多深度學(xué)習(xí)系統(tǒng)是不值得信任的，它們很容易被愚弄。
這使得人工智能系統(tǒng)就像一些過度自信的人類一樣，常常具有遠(yuǎn)超其實(shí)際能力的自信。而人類還比較善于發(fā)現(xiàn)自己的錯(cuò)誤，但許多人工智能根本無法知道自己在什么時(shí)候犯了錯(cuò)。對人工智能系統(tǒng)來說，有時(shí)意識(shí)到自己犯了錯(cuò)甚至比產(chǎn)生一個(gè)正確的結(jié)果還要困難。
這種不穩(wěn)定性是現(xiàn)代人工智能的致命弱點(diǎn)，也是一個(gè)悖論。這個(gè)悖論可以追溯到20世紀(jì)的兩位數(shù)學(xué)巨匠——圖靈（Alan Turing）和哥德爾（Kurt Gdel）。20世紀(jì)初，數(shù)學(xué)家們正試圖證明數(shù)學(xué)是統(tǒng)一科學(xué)的終極語言。然而，圖靈和哥德爾發(fā)現(xiàn)了數(shù)學(xué)核心的一個(gè)悖論：某些數(shù)學(xué)命題的真?zhèn)问遣豢赡鼙蛔C明的，而有些計(jì)算問題也無法用算法來解決。
到了20世紀(jì)末，數(shù)學(xué)家斯蒂芬·斯梅爾（Steve Smale）提出了18個(gè)當(dāng)時(shí)未解數(shù)學(xué)問題的清單，其中的最后一問所探討的就是人類和機(jī)器的智能極限。這個(gè)問題至今沒有得到解決，不過它將圖靈和哥德爾最先提出的悖論帶入了人工智能的世界：數(shù)學(xué)存在固有的基本極限，類似地，人工智能算法也有無法解決的問題。
人工智能的固有極限
一項(xiàng)新的研究表明，人工智能普遍存在固有的極限，而這種極限可歸結(jié)于這個(gè)長達(dá)世紀(jì)之久的數(shù)學(xué)悖論。研究人員通過擴(kuò)展哥德爾和圖靈提出的方法，展示了計(jì)算神經(jīng)網(wǎng)絡(luò)的算法所存在的極限。他們提出了一種分類理論，描述了在特定條件下，可以訓(xùn)練神經(jīng)網(wǎng)絡(luò)來提供可信的人工智能系統(tǒng)的情況。
研究結(jié)果被發(fā)表在了近期的《美國國家科學(xué)院院刊》上。新研究指出，穩(wěn)定、精確的神經(jīng)網(wǎng)絡(luò)存在問題，且沒有算法可以產(chǎn)生這樣的網(wǎng)絡(luò)。只有在特定的情況下，算法才能計(jì)算出穩(wěn)定、精確的神經(jīng)網(wǎng)絡(luò)。
神經(jīng)網(wǎng)絡(luò)是人工智能領(lǐng)域最先進(jìn)的工具，之所以稱之為“神經(jīng)網(wǎng)絡(luò)”，是因?yàn)樗菍Υ竽X神經(jīng)元之間的聯(lián)系的一種大致模擬。在新研究中，研究人員表示雖然在某些情況下，良好的神經(jīng)網(wǎng)絡(luò)可以存在，但由于這種悖論的存在，我們無法創(chuàng)建一個(gè)固有可靠的神經(jīng)網(wǎng)絡(luò)。換句話說，無論我們用于構(gòu)建一個(gè)神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)有多么準(zhǔn)確，都永遠(yuǎn)無法獲得構(gòu)建這個(gè)神經(jīng)網(wǎng)絡(luò)所需的完美信息。
與此同時(shí)，無論對多少數(shù)據(jù)的進(jìn)行訓(xùn)練，也都不可能計(jì)算出良好的現(xiàn)有神經(jīng)網(wǎng)絡(luò)。無論一個(gè)算法能訪問多少數(shù)據(jù)，它都不會(huì)生成所需的網(wǎng)絡(luò)。這一點(diǎn)與圖靈的觀點(diǎn)類似：無論計(jì)算能力和運(yùn)行時(shí)間如何，都存在無法解決的計(jì)算問題。
研究人員表示，并不是所有的人工智能都有固有缺陷。在某些情況下，人工智能犯錯(cuò)誤是完全沒有問題的，但它需要誠實(shí)面對這些問題。然而，這并不是我們在許多系統(tǒng)中所看到的情況。
理解人工智能的基礎(chǔ)
當(dāng)我們嘗試一些東西發(fā)現(xiàn)它不起作用時(shí)，可能會(huì)加點(diǎn)其他東西希望它能起作用，然而如果當(dāng)加到一定程度時(shí)仍不能得到想要的，我們就會(huì)選擇嘗試不同的方法。理解不同方法具有各自的極限是很重要的?，F(xiàn)在，人工智能正處于其實(shí)際成功遠(yuǎn)遠(yuǎn)領(lǐng)先其理論和對其理解的階段，因此我們急需能夠理解人工智能計(jì)算基礎(chǔ)來彌補(bǔ)這一差距。
當(dāng)20世紀(jì)的數(shù)學(xué)家發(fā)現(xiàn)不同的悖論時(shí)，他們并沒有停止對數(shù)學(xué)的研究。他們必須找到新的道路，因?yàn)樗麄兠靼灼渲械臉O限。相應(yīng)地，在人工智能領(lǐng)域，這或許意味著需要改變路徑或開發(fā)新的路徑，從而構(gòu)建出能以可靠且透明的方式解決問題的，并同時(shí)了解它們的極限的系統(tǒng)。
研究人員的下一個(gè)階段是將近似理論、數(shù)值分析和計(jì)算基礎(chǔ)結(jié)合起來，來確定哪些神經(jīng)網(wǎng)絡(luò)是可以通過算法計(jì)算的，以及哪些神經(jīng)網(wǎng)絡(luò)是可以變得穩(wěn)定和可信的。正如哥德爾和圖靈提出的關(guān)于數(shù)學(xué)和計(jì)算機(jī)極限的悖論帶來的豐富的基礎(chǔ)理論，也許類似的基礎(chǔ)理論可能會(huì)在人工智能中開花結(jié)果。
