圖片來源@視覺中國
今年8月,有個(gè)消息轟動(dòng)了中國科技界,尤其是AI圈。由中國科研團(tuán)隊(duì)研發(fā)的“天機(jī)”芯片登上了《自然》雜志封面。相關(guān)文章展示了清華大學(xué)施路平團(tuán)隊(duì)研發(fā)的世界首款異構(gòu)融合類腦芯片,它既可支持脈沖神經(jīng)網(wǎng)絡(luò)又支持人工神經(jīng)網(wǎng)路,并且公布了利用“天機(jī)芯片”完成自行車自動(dòng)駕駛的實(shí)驗(yàn)視頻。
這件事給投資界、產(chǎn)業(yè)界的直接影響,是在近段時(shí)間“類腦芯片”和“類腦計(jì)算”相關(guān)的投融資、并購與創(chuàng)業(yè)公司突然多了起來。“類腦”相關(guān)的會(huì)議活動(dòng)也突然增加。雖然說“類腦熱”還遠(yuǎn)遠(yuǎn)談不上,但這個(gè)領(lǐng)域的突然升溫卻是真實(shí)可見的。
如果我們把目光放得更遠(yuǎn)一點(diǎn),類腦芯片確實(shí)在這幾年有了大規(guī)模的爆發(fā)。各大學(xué)實(shí)驗(yàn)室以及科技巨頭紛紛拿出了類腦芯片產(chǎn)品,也有不少專家學(xué)者認(rèn)為,人工智能要經(jīng)歷簡單人工智能、深度人工智能、通用人工智能三個(gè)階段。而今天的深度學(xué)習(xí)代表了第二階段的開始,類腦計(jì)算則是通用智能大門的鑰匙。
事已至此,可能給大眾的感覺是,類腦芯片已經(jīng)是注定的未來,人類已經(jīng)借由它找到了通向強(qiáng)人工智能的門徑。
然而果真如此嗎?類腦芯片是否就是AI的終極答案,今天還埋藏著太多不確定性。而想要客觀認(rèn)識(shí)類腦芯片的未來,我們可能必須要把時(shí)間倒回一些,先理解它的過去。
一段人類認(rèn)識(shí)神經(jīng)與大腦的過去。
神經(jīng)行為學(xué):AI之外的另一條路
從人類的大腦和智慧中,抽取提煉某種技術(shù),是一件源遠(yuǎn)流長的工作。能不能讓機(jī)械像人類一樣識(shí)別、判斷和思考,最終發(fā)展出了今天的AI。
而在另一項(xiàng)“兄弟研究”里,卻一步步發(fā)展出了今天的類腦芯片——換言之,類腦芯片的起點(diǎn)某種程度上來說跟AI沒啥關(guān)系。因?yàn)樗惖氖乔嗤艿哪X。
早在16世紀(jì),達(dá)芬奇就在手稿中分析過無頭青蛙也能活的現(xiàn)象,某種程度上來說他發(fā)現(xiàn)了生物電和中樞神經(jīng)系統(tǒng)的秘密。但是我們知道達(dá)芬奇手稿近世才被披露,所以這個(gè)發(fā)現(xiàn)就像他很多驚天發(fā)明一樣變成了“達(dá)芬奇的秘密”。
1786年,伽格尼發(fā)現(xiàn)了青蛙掛在金屬柵欄上腿會(huì)抽動(dòng)的現(xiàn)象,繼而一步步建立了早期生物電學(xué)。沿著青蛙們以高貴犧牲精神開拓的道路,人類逐漸發(fā)現(xiàn)了生物電和神經(jīng)系統(tǒng)的奧秘。即生物的神經(jīng)運(yùn)轉(zhuǎn),是依靠生物電刺激神經(jīng)元節(jié)點(diǎn),最終實(shí)現(xiàn)了大腦控制機(jī)體的網(wǎng)狀神經(jīng)結(jié)構(gòu)。
由這個(gè)結(jié)構(gòu)開始,神經(jīng)學(xué)界很自然就會(huì)思考另一個(gè)問題:既然動(dòng)物是依靠神經(jīng)元來傳遞信息、進(jìn)行控制的,那么這種控制是如何發(fā)生的呢?
圍繞這個(gè)問題,人類在20世紀(jì)開始漫長的,對(duì)神經(jīng)傳遞、神經(jīng)動(dòng)力的研究,并在1963年完成了神經(jīng)行為學(xué)的術(shù)語概念確認(rèn)。這個(gè)學(xué)科中,研究者從生物、解剖、神經(jīng)反射等多個(gè)角度提出了關(guān)于神經(jīng)元的行為學(xué)模型。其中很多關(guān)于神經(jīng)元計(jì)算的討論,甚至早于AI概念的提出。
我們知道,今天人工神經(jīng)網(wǎng)絡(luò)是AI的基石,但人工神經(jīng)網(wǎng)絡(luò)的提出,其實(shí)只是上世紀(jì)70年代,AI和計(jì)算機(jī)學(xué)界對(duì)神經(jīng)元研究的一次借鑒,主要是模仿了神經(jīng)元分層處理的特征。它的基礎(chǔ)還是坐落在統(tǒng)計(jì)學(xué)和控制論的概念上。
但隨著AI和現(xiàn)代計(jì)算的不斷發(fā)展,作為“兄弟學(xué)科”的神經(jīng)行為學(xué)自身也在進(jìn)步。于是就有人聯(lián)想到了,能不能直接整體移植神經(jīng)元系統(tǒng),在現(xiàn)實(shí)世界里,把類似動(dòng)物大腦中神經(jīng)元行為的動(dòng)力機(jī)制變成一種運(yùn)算機(jī)制?
之所以要這么干,主要還是臨近21世紀(jì),人類發(fā)現(xiàn)馮諾依曼架構(gòu)不斷抵近極限。一種從根兒上不同于經(jīng)典計(jì)算的計(jì)算架構(gòu),或許是最一勞永逸的解決辦法。量子計(jì)算是一種解決方式,而全仿生神經(jīng)元行為學(xué)的解決方案則是另一種——這一種在大部分時(shí)候就被簡稱為類腦計(jì)算。
事實(shí)上,類腦計(jì)算中除了神經(jīng)元行為學(xué)的仿生計(jì)算,也還要其他計(jì)算方式。但今天,毫無疑問模仿神經(jīng)元行為是最成功的一種,于是我們今天看到的二者大體是可以劃等號(hào)的。
畢竟人腦肯定是最好的計(jì)算機(jī),加上想發(fā)展AI,那么類似人腦結(jié)構(gòu)的計(jì)算方式顯然極具魅惑。于是類腦計(jì)算在眾多新計(jì)算形式中天然占據(jù)著加分項(xiàng),而又過了幾十年,摩爾定律的極限愈發(fā)明顯的今天,類腦計(jì)算也確實(shí)拿出了一些成績。
類腦計(jì)算:比特之外的另一條路
想要了解芯片化的類腦計(jì)算之前,我們還要先了解兩個(gè)東西:SNN和人造突觸。
上面咱們說過了,人工神經(jīng)網(wǎng)絡(luò)(ANN),本質(zhì)上還是一種基于統(tǒng)計(jì)學(xué)遞歸原理所構(gòu)建的計(jì)算架構(gòu)。那么想要搞類腦計(jì)算,就需要一種更仿生大腦神經(jīng)元運(yùn)作的計(jì)算架構(gòu)。這種架構(gòu)應(yīng)該體現(xiàn)出人腦計(jì)算的高效、精準(zhǔn)和連續(xù)性,從而對(duì)存儲(chǔ)分離的馮諾依曼架構(gòu)提出挑戰(zhàn)。
是不是有這種東西呢?還真有。
這就是今天類腦芯片們的基礎(chǔ)檢驗(yàn)標(biāo)準(zhǔn):脈沖神經(jīng)網(wǎng)絡(luò)SNN。1952年,發(fā)現(xiàn)了神經(jīng)學(xué)的功能的離子學(xué)說和突觸電位的諾貝爾醫(yī)學(xué)獎(jiǎng)得主,艾倫·勞埃德·霍奇金爵士提出了脈沖神經(jīng)網(wǎng)絡(luò)這種神經(jīng)行為學(xué)模型。
SNN的價(jià)值在于,它描述了神經(jīng)元之間的電位是如何產(chǎn)生和流動(dòng)的,它認(rèn)為神經(jīng)元之間的交換主要靠“神經(jīng)遞質(zhì)”來產(chǎn)生化學(xué)放電,從而在神經(jīng)網(wǎng)絡(luò)中實(shí)現(xiàn)復(fù)雜和可變的神經(jīng)系統(tǒng)交互。
這一發(fā)明來到了計(jì)算世界,就變成了一種高度模仿神經(jīng)元的計(jì)算架構(gòu)。它用發(fā)生脈沖的仿生來模擬神經(jīng)元電位,構(gòu)成了一種獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu)。 今天,SNN已經(jīng)在很多領(lǐng)域,比如低功耗和通用處理能力證明了自己的優(yōu)秀。
但是對(duì)于很多說SNN一定是ANN的進(jìn)化,是下一代神經(jīng)網(wǎng)絡(luò),這個(gè)說法有失偏頗。事實(shí)上,SNN的出現(xiàn)并不比ANN晚。說白了要有用早就用了,真正讓它停留在實(shí)驗(yàn)室中的,還是缺乏實(shí)際的任務(wù)處理能力。但就像大規(guī)模并行計(jì)算重新激活了沉睡幾十年的ANN一樣,SNN的未來誰又說得準(zhǔn)呢?
類腦計(jì)算的另一個(gè)關(guān)鍵點(diǎn),是計(jì)算節(jié)點(diǎn)的問題。我們知道,比特計(jì)算的節(jié)點(diǎn)是晶體管的導(dǎo)電開關(guān)。而類腦計(jì)算則要求模擬出與人類神經(jīng)元相似的計(jì)算節(jié)點(diǎn),來實(shí)現(xiàn)非比特計(jì)算的另一條路。這也就是說,我們需要人造神經(jīng)突觸。
今天關(guān)于如何模擬,或者制造人工突觸,已經(jīng)有相當(dāng)多的探索。但整體而言新材料還有這樣那樣的問題,能夠量產(chǎn)的類腦芯片,基本還是用電路模擬人造突觸的方式來實(shí)現(xiàn)類腦計(jì)算。這樣做對(duì)工藝要求很高,生產(chǎn)效率地下,其實(shí)并非長久之計(jì)。
沿著這兩條路,人類慢慢就摸到了類腦芯片的大門。
2011年,IBM發(fā)布了TrueNorth芯片,這也是人類用電路模擬神經(jīng)行為學(xué)的開端。2014年TrueNorth更新了第二代,功耗達(dá)到了平方厘米消耗 20 毫瓦,印證了類腦芯片的低功耗價(jià)值,也在一些AI任務(wù)上印證了類腦芯片的實(shí)際工作能力。
而緊隨其后的,想想也知道應(yīng)該是英特爾。2017年,英特爾發(fā)布了類腦芯片Loihi,其擁有13萬個(gè)人造突觸。今年7月,英特爾發(fā)布了號(hào)稱業(yè)界首個(gè)大規(guī)模神經(jīng)形態(tài)計(jì)算系統(tǒng)Pohoiki Beach。這個(gè)系統(tǒng)由64塊Loihi組合而成,已經(jīng)可以在自動(dòng)導(dǎo)航、陸續(xù)規(guī)劃等需要高效執(zhí)行的AI任務(wù)中帶來高于GPU的功耗和處理能力。
除此之外,業(yè)界比較出名的類腦芯片還有高通的Zeroth,以及一些高校實(shí)驗(yàn)室和創(chuàng)業(yè)公司發(fā)明的芯片。吃瓜群眾一致表示,這個(gè)場子現(xiàn)在就缺谷歌了。
事實(shí)上,某種程度上看2019年是類腦芯片爆發(fā)應(yīng)用潛力的一年。無論是中國的天機(jī),還是英特爾和IBM的類腦芯片,都已經(jīng)在今天被證明了在低功耗和超高速反應(yīng)上,具有值得期待的效果。這可能給AI領(lǐng)域的一些相關(guān)任務(wù),比如非監(jiān)督學(xué)習(xí)、快速定位、路徑規(guī)劃上帶來幫助。
但是客觀來說,類腦芯片并不是完全成熟的。雖然主流科技公司紛紛布局,中國浙大的“達(dá)爾文”芯片、清華的“天機(jī)”芯片都已經(jīng)在路上。但類腦芯片距離真正確立產(chǎn)業(yè)價(jià)值,從實(shí)驗(yàn)室步入現(xiàn)實(shí)世界,還有很長的路要走。
已知的,未知的:類腦芯片的今天
類腦芯片到底是什么?是人類的朗基努斯槍,還是唐·吉歌德面向風(fēng)車的宣言?或許我們真的沒有必要在今天就給出答案。計(jì)算史上從來不是每一次嘗試都必須成功,同時(shí)很多失敗也具有偉大的價(jià)值。
綜合來看,今天類腦芯片的發(fā)展至今,已經(jīng)可以明確它的幾大優(yōu)勢和特性,也就是類腦芯片的光明面:
1、像人腦一樣的存算一體,打破了存儲(chǔ)計(jì)算分離的架構(gòu),這是類腦計(jì)算的核心突破。
2、功耗極低,并且不會(huì)因計(jì)算任務(wù)的架構(gòu)復(fù)雜化而功耗激增。這終于讓計(jì)算耗電和散熱兩大難題找到了新的方向。
3、可能更適合SNN代表的類神經(jīng)元計(jì)算架構(gòu),在未來AI發(fā)展之路上想想無限。并且具備架構(gòu)靈活,陣列化計(jì)算效率不衰減等等優(yōu)點(diǎn)。
當(dāng)然,最根本的優(yōu)勢在于,類腦計(jì)算可以繞開比特編程和摩爾定律。在算力極限面前,是跟量子計(jì)算一樣都是人類的主要救生船。
但是光明面的背后當(dāng)然就是陰影,也要確實(shí)看到的是,類腦芯片在今天還有極大的不確定性,尤其是有一些基礎(chǔ)問題無從解答。
比如類腦芯片的任務(wù)性處理能力差、算力水平過低。第一代TrueNorth甚至無法處理任何有價(jià)值的任務(wù)。雖然經(jīng)過幾年的發(fā)展,類腦計(jì)算可以處理的任務(wù)越來越多,但是要看到這些任務(wù)都有嚴(yán)苛的先決條件。對(duì)于絕大部分計(jì)算目標(biāo)來說,類腦芯片都表示帶不動(dòng)。
另一方面,用電子電路模擬人造突觸,是極其不劃算的一件事。它要花費(fèi)極高的工藝與技術(shù)成本,來實(shí)現(xiàn)效率并不高的神經(jīng)元模擬。所以面向未來,更多人認(rèn)為一定要找到可以代替經(jīng)晶體管的,屬于類腦計(jì)算的新材料——但是這個(gè)材料是什么,如何才能做到像硅晶片一樣便宜,今天都是未知數(shù)。
另一方面,適配類腦計(jì)算的架構(gòu)、算法、編程方案等等也處在廣泛的空白期??傮w來看,類腦芯片今天就像一片新的開發(fā)區(qū),附近有機(jī)場,有鐵路,但其他東西都還停留在開發(fā)方案上。
尤其在我們身邊,還要特別警惕一件事,那就是類腦芯片虛假繁榮帶來的危險(xiǎn)。AI火了之后,更未來更AI的技術(shù)成為投融資與政府扶持熱點(diǎn),是一件很自然的事。但類腦計(jì)算和類腦芯片,事實(shí)上還有非常遠(yuǎn)的路要走。今天在產(chǎn)業(yè)中討論它,很多時(shí)候都是漫無邊際的非理性暢想。
筆者曾經(jīng)參加過一些地方產(chǎn)業(yè)組織牽頭舉辦的類腦芯片活動(dòng),現(xiàn)場討論莫衷一是,產(chǎn)學(xué)各界代表完全沒有在統(tǒng)一的技術(shù)邏輯上展開對(duì)話。亂拳打死老師傅模式的盲目發(fā)展類腦,很可能最終留下“遇事不決,量子力學(xué)”般的一攤漿糊。
回到類腦芯片的真實(shí)發(fā)展路徑,今天的類腦芯片,本質(zhì)上還處在有太多不確定性的實(shí)驗(yàn)室探索階段。它的進(jìn)步在真實(shí)發(fā)生,中國也確實(shí)站在非常具有想象力的起跑線上,但想讓類腦芯片為世界貢獻(xiàn)些什么,我們可能還要拿出更多,更多的,以及更多的耐心。
不知道大家看過電影《富春山居圖》沒有?那是一部劃時(shí)代的爛片,但它主題曲的幾句歌詞,非常適合放在這里作為結(jié)尾:
“反正你的親吻無憑無證
就隨天機(jī)而死天意而生
只要答案,不要問”