人工智能已經(jīng)進(jìn)入了我們的日常生活。雖然人工智能取得了極大的成功,但是人工神經(jīng)網(wǎng)絡(luò)為主流算法的人工智能仍然面臨對于計(jì)算需求過大,以及計(jì)算需要的能量過大的問題。舉例來說,目前人類大腦的智能程度遠(yuǎn)遠(yuǎn)超過人工智能的水平,但是人腦的功率消耗僅僅在10W數(shù)量級,遠(yuǎn)遠(yuǎn)小于動輒數(shù)千瓦的服務(wù)器端人工智能芯片組功耗。而人工智能能量效率低的問題也確實(shí)成為了人工智能進(jìn)入對于功耗要求較高的邊緣端的一個重要阻礙。
解決人工智能芯片功耗過大的一個思路就是比起主流的人工神經(jīng)網(wǎng)絡(luò)更進(jìn)一步地模仿生物神經(jīng)元的工作方式,而這樣的方法也被稱為“神經(jīng)擬態(tài)”(neuromorphic)。動物的神經(jīng)元會不斷地從其他神經(jīng)元突觸接受電脈沖并累積電荷,當(dāng)電荷高過某個閾值時,神經(jīng)元就會通過突觸脈沖放電,而該電脈沖將通過突觸傳遞到下一個神經(jīng)元。在這個過程中,神經(jīng)元僅僅在放電(也即活動)的時候會有能量消耗,而在其他時候都處于非常低功耗的狀態(tài)。
神經(jīng)擬態(tài)芯片就是使用了這個思路,使用集成電路的形式實(shí)現(xiàn)了神經(jīng)擬態(tài)。在以往的神經(jīng)擬態(tài)芯片中,最著名的可能就是IBM的True North和Intel的Loihi。這兩塊芯片主打大規(guī)模神經(jīng)擬態(tài),主要場景是神經(jīng)科學(xué)研究等領(lǐng)域。而在Intel和IBM等巨頭推出的以研究性質(zhì)為主的神經(jīng)擬態(tài)芯片之外,在今天神經(jīng)擬態(tài)芯片更多地以其計(jì)算能量效率高的優(yōu)勢在邊緣端找到了商用場景。
在邊緣端的神經(jīng)擬態(tài)芯片設(shè)計(jì)中,通常使用混合信號電路設(shè)計(jì),其中每個神經(jīng)突觸在傳遞脈沖信號使用模擬信號(電荷),而接受到突觸和處理神經(jīng)元內(nèi)部狀態(tài)的過程則可以使用數(shù)字電路。如前所述,由于神經(jīng)元僅僅在累積到足夠電荷數(shù)量之后才會激活,因此在大多數(shù)時間處于低功耗的待機(jī)狀態(tài),因此大大降低了功耗?;蛘邚牧硪粋€角度上來說,神經(jīng)擬態(tài)芯片僅僅在檢測到有意義的事件才會進(jìn)行處理,因此大大降低了能量,因此神經(jīng)擬態(tài)芯片又可以稱為“事件驅(qū)動處理”芯片。
從具體的設(shè)計(jì)來看,目前用于邊緣端的神經(jīng)擬態(tài)芯片又可以分為兩大類,分別是主打使用神經(jīng)擬態(tài)脈沖神經(jīng)網(wǎng)絡(luò)做信號處理的神經(jīng)擬態(tài)計(jì)算芯片,以及使用事件驅(qū)動視覺傳感器(DVS)芯片并且僅僅在DVS檢測到事件后才喚醒處理芯片的神經(jīng)擬態(tài)視覺芯片。目前,這兩種芯片在邊緣端都得到了相當(dāng)?shù)闹匾暋?/p>
神經(jīng)擬態(tài)芯片的應(yīng)用場景
神經(jīng)擬態(tài)芯片在邊緣端的第一個主要應(yīng)用場景是低功耗機(jī)器視覺。神經(jīng)擬態(tài)芯片在該領(lǐng)域的主要優(yōu)勢是功耗極低:傳統(tǒng)的基于數(shù)字電路的人工智能芯片的功耗最低通常在毫瓦數(shù)量級,而神經(jīng)擬態(tài)計(jì)算芯片的功耗可以做到微瓦數(shù)量級,差距可以達(dá)到幾個數(shù)量級。因此,神經(jīng)擬態(tài)計(jì)算芯片可以實(shí)現(xiàn)使用紐扣電池供電并且常開(always-on)的機(jī)器視覺。
此外,基于事件驅(qū)動的超高速機(jī)器視覺也是神經(jīng)擬態(tài)視覺芯片的重要應(yīng)用場景。與傳統(tǒng)固定幀率的視覺傳感器不同,神經(jīng)擬態(tài)視覺芯片僅僅在有事件出現(xiàn)時才開始高頻率采樣,因此可以實(shí)現(xiàn)上千fps的高幀率,因此可以應(yīng)用在自動駕駛、機(jī)器運(yùn)行監(jiān)測等需要這樣高采樣率的場景。另外,值得一提的是,如果把神經(jīng)擬態(tài)視覺芯片和神經(jīng)擬態(tài)計(jì)算芯片相結(jié)合,則可以實(shí)現(xiàn)在有事件出現(xiàn)時的超低延遲高質(zhì)量處理,而在沒有事件出現(xiàn)時則功耗極低,從而同時實(shí)現(xiàn)高性能和超低功耗。最近,中國神經(jīng)擬態(tài)芯片初創(chuàng)公司時識科技(SynSense)發(fā)布的Speck就是這樣一款實(shí)現(xiàn)強(qiáng)強(qiáng)聯(lián)合的SoC,同時集成了神經(jīng)擬態(tài)視覺芯片和神經(jīng)擬態(tài)計(jì)算芯片,從而能在邊緣端實(shí)現(xiàn)亞毫瓦級的超低功耗和低延時機(jī)器視覺,應(yīng)用場景可以覆蓋智能家庭、智能安防、工業(yè)監(jiān)測等重要IoT場景。
除了機(jī)器視覺之外,對于時間序列的分析也是神經(jīng)擬態(tài)計(jì)算芯片的重要應(yīng)用場景。語音、生理信號(如心臟ECG)等時間序列信號非常時候脈沖神經(jīng)網(wǎng)絡(luò)處理,因此使用基于脈沖神經(jīng)網(wǎng)絡(luò)的神經(jīng)擬態(tài)芯片可以以很高的效率處理這些信號??纱┐魇疆a(chǎn)品(如TWS無線耳機(jī)等)對于這類低功耗時間序列處理有很強(qiáng)的需求,而隨著可穿戴式產(chǎn)品市場的爆發(fā),使用神經(jīng)擬態(tài)芯片進(jìn)入這些市場也成為了一個很有潛力的方向。
神經(jīng)擬態(tài)芯片的競爭格局
神經(jīng)擬態(tài)芯片的開發(fā)需要算法、系統(tǒng)和電路的深度結(jié)合。由于神經(jīng)擬態(tài)算法是一項(xiàng)較為不同的算法,因此在算法開發(fā)方面需要相當(dāng)?shù)姆e累。同時,由于在邊緣端使用的神經(jīng)擬態(tài)芯片追求高能效比,因此常用混合信號電路,其開發(fā)對于電路設(shè)計(jì)的技巧也有相當(dāng)?shù)男枨???偠灾豢钌窠?jīng)擬態(tài)芯片產(chǎn)品需要同時在神經(jīng)擬態(tài)電路和算法方面都有多年的深入積累才能真正成功。
美國的BrainChip可以說是最老牌的神經(jīng)擬態(tài)芯片公司,從2004年創(chuàng)辦至今已經(jīng)有超過十五年的時間,目前的產(chǎn)品能覆蓋從微瓦到毫瓦級功耗的超低功耗芯片市場,產(chǎn)品形態(tài)包括神經(jīng)擬態(tài)芯片IP和SoC芯片。
歐洲也是神經(jīng)擬態(tài)領(lǐng)域的重鎮(zhèn),尤其是瑞士的蘇黎世理工大學(xué)和蘇黎世大學(xué)聯(lián)合創(chuàng)辦的神經(jīng)信息學(xué)院(INI)更是神經(jīng)擬態(tài)芯片和算法領(lǐng)域?qū)W術(shù)界的權(quán)威,而從神經(jīng)信息學(xué)院孵化的公司也在邊緣端神經(jīng)擬態(tài)芯片領(lǐng)域有重要地位。例如,最近炙手可熱的Prophesee就是由神經(jīng)信息學(xué)院的學(xué)生創(chuàng)辦的,該公司的主要產(chǎn)品是神經(jīng)擬態(tài)視覺芯片,能提供高于10000fps的超高幀率,同時功耗則低于10mW,目前已經(jīng)獲得了來自Intel、小米、創(chuàng)新工場等業(yè)界巨頭或知名資本的資金支持。
相對于海外同行,中國的邊緣端神經(jīng)擬態(tài)芯片公司也并不落后。例如,前文提到的時識科技就由來自瑞士神經(jīng)信息學(xué)院的海歸學(xué)者喬寧博士創(chuàng)立,在獲得了百度、Merck、中科創(chuàng)星等業(yè)界和資本支持后,已經(jīng)率先推出了結(jié)合神經(jīng)擬態(tài)視覺和計(jì)算的芯片產(chǎn)品Speck。此外,在神經(jīng)擬態(tài)視覺芯片方面,由新加坡南洋理工大學(xué)教授陳守順回國創(chuàng)立的芯侖光電也在幾年前就推出了具有國際領(lǐng)先水平的神經(jīng)擬態(tài)視覺芯片,目前芯侖光電已經(jīng)成為中國半導(dǎo)體龍頭之一韋爾股份的子公司。由于中國在邊緣機(jī)器視覺(智能家庭和智能安防等)和可穿戴電子產(chǎn)品都處于全球引領(lǐng)者的地位,我們認(rèn)為中國也將成為邊緣端神經(jīng)擬態(tài)芯片最有潛力的市場。隨著邊緣端神經(jīng)擬態(tài)應(yīng)用成為主流,我們也期待這些中國公司能在這個市場里大放異彩。