對(duì)于目前的深度學(xué)習(xí)AI芯片來(lái)說(shuō)，需要大大簡(jiǎn)化網(wǎng)絡(luò)模型、縮減存儲(chǔ)量（如不用DRAM）、縮小算法規(guī)模，同時(shí)又要保持足夠的精度，才有這樣的可能性。最近幾年涌現(xiàn)出了很多深度學(xué)習(xí)AI芯片的新算法或新的電路和器件，降低功耗都是它們最主要的目的之一。
從電路級(jí)運(yùn)行來(lái)說(shuō)，一次NAND門(mén)電路運(yùn)算大概消耗0.2fJ（即0.2×10-15 J）?，F(xiàn)在的問(wèn)題是如何把每次MAC運(yùn)算的能耗成本降低到飛焦（fJ）級(jí)別，如果能夠?qū)崿F(xiàn)，這樣的AI芯片將會(huì)在物聯(lián)網(wǎng)環(huán)境或邊緣側(cè)得到普遍應(yīng)用。要達(dá)到這樣的目標(biāo)，存內(nèi)計(jì)算、模擬計(jì)算、可逆計(jì)算等都可能是有力的手段。同時(shí)，與深度學(xué)習(xí)AI芯片相比，基于神經(jīng)形態(tài)的類(lèi)腦芯片比較容易達(dá)到超低功耗的目標(biāo)，因?yàn)檫@類(lèi)芯片是在時(shí)間觸發(fā)和事件觸發(fā)模式下運(yùn)行的，本質(zhì)上就具備低功耗的特性。
另外，神經(jīng)網(wǎng)絡(luò)的一大優(yōu)勢(shì)就是面對(duì)隨機(jī)噪聲時(shí)具有非常強(qiáng)的糾錯(cuò)彈性和容錯(cuò)性。在超低功耗下工作時(shí)，電路容易出錯(cuò)；而能量采集技術(shù)還沒(méi)有達(dá)到很高的穩(wěn)定性。這時(shí)，神經(jīng)網(wǎng)絡(luò)本身的糾錯(cuò)和容錯(cuò)優(yōu)勢(shì)可以發(fā)揮作用。迄今為止，能量采集和轉(zhuǎn)換的效率還非常低，這方面還需要大力改進(jìn)。例如，太陽(yáng)能板、整流器、天線、超級(jí)電容器等領(lǐng)域都在不斷創(chuàng)新和改善性能，未來(lái)很可能會(huì)出現(xiàn)新的技術(shù)突破。
像EPIC這樣的自供電智能傳感AI芯片，在未來(lái)可能將變得極為重要。人們可以像撒紙屑一樣，向空中扔一些灰塵大小的廉價(jià)AI芯片，讓它們分布到人們關(guān)心的環(huán)境中。它們將創(chuàng)造一個(gè)以前所未有的方式智能地進(jìn)行交互的世界。而只有當(dāng)器件可以在無(wú)人值守、不用電池的情況下使用數(shù)年至數(shù)十年時(shí)，此類(lèi)應(yīng)用才能體現(xiàn)效果。
藍(lán)牙5已經(jīng)準(zhǔn)備丟棄電池，“擁抱”自供電。據(jù)預(yù)測(cè)，到2023年，全球?qū)⒂谐^(guò)300億個(gè)支持藍(lán)牙的設(shè)備，其中以IoT應(yīng)用為目標(biāo)的百分比將不斷增長(zhǎng)。“無(wú)電池”將對(duì)成本和維護(hù)產(chǎn)生重大影響。AI已經(jīng)大量用于IoT（常稱為AIoT）。藍(lán)牙系統(tǒng)的增長(zhǎng)和發(fā)展必定與AIoT的增長(zhǎng)和發(fā)展息息相關(guān)，未來(lái)的藍(lán)牙5也代表了AIoT的發(fā)展趨勢(shì)。
AIoT中使用的AI芯片常采用RISC-V架構(gòu)。RISC-V是一種開(kāi)放式指令集架構(gòu)（Instruction Set Architecture，ISA），它的商業(yè)化填補(bǔ)了計(jì)算機(jī)產(chǎn)業(yè)的長(zhǎng)期空白。它不僅打破了ARM和英特爾現(xiàn)有的ISA雙寡頭壟斷格局，還允許用戶掌控自己的低功耗芯片開(kāi)發(fā)進(jìn)程，推動(dòng)創(chuàng)新。初創(chuàng)公司GreenWaves的GAP8是業(yè)界首款支持物聯(lián)網(wǎng)應(yīng)用的電池供電AI超低功耗處理器，基于RISC-V架構(gòu)。它具有9個(gè)內(nèi)核，能夠以數(shù)十毫瓦的功耗量級(jí)維持10GOPS的性能。這款頻率為250 MHz的處理器旨在為邊緣側(cè)計(jì)算和物聯(lián)網(wǎng)加速CNN的運(yùn)行。
云端和邊緣側(cè)之間的關(guān)系。對(duì)一個(gè)超低功耗系統(tǒng)來(lái)說(shuō)，接入云計(jì)算不可能帶來(lái)好處，連續(xù)傳輸信號(hào)會(huì)消耗大量能量。達(dá)到超低功耗的唯一希望就是脫離云端，并將本地計(jì)算所消耗的能量降低到一定程度，從而靠采集能量就可以提供足夠的能量來(lái)運(yùn)行各種應(yīng)用。如果把邊緣側(cè)AI設(shè)備全部做成無(wú)電池的自供電設(shè)備，將可能減輕數(shù)十億個(gè)AI設(shè)備的負(fù)擔(dān)，極大地?cái)U(kuò)展AI潛在的應(yīng)用范圍，使其得到大范圍的普及，從而將“觸手可及的AI”這一愿景變?yōu)楝F(xiàn)實(shí)。
