AI芯片的低功耗突破

半導(dǎo)體行業(yè)觀察
eenews
存內(nèi)模擬計(jì)算(The Analog in Memory Computing,AiMC)架構(gòu)使用經(jīng)過(guò)修改的存儲(chǔ)單元在經(jīng)過(guò)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)中處理網(wǎng)絡(luò)邊緣AI的數(shù)據(jù),功率效率為2900TOPS/W。

比利時(shí)Imec和美國(guó)晶圓代工廠商GlobalFoundries已開發(fā)出一種使用模擬技術(shù)的測(cè)試芯片,用于邊緣AI的低功耗機(jī)器學(xué)習(xí)引擎。

Imec使用一種新技術(shù)開發(fā)了一種測(cè)試芯片,該技術(shù)大大降低了機(jī)器學(xué)習(xí)邊緣AI系統(tǒng)的功能。

存內(nèi)模擬計(jì)算(The Analog in Memory Computing,AiMC)架構(gòu)使用經(jīng)過(guò)修改的存儲(chǔ)單元在經(jīng)過(guò)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)中處理網(wǎng)絡(luò)邊緣AI的數(shù)據(jù),功率效率為2900TOPS/W。

imec機(jī)器學(xué)習(xí)主管Diederik Verkest說(shuō):“我們建立了一個(gè)特殊的計(jì)算單元,可以在這里通過(guò)減少數(shù)字傳輸來(lái)節(jié)省能源。”他說(shuō):“取決于[激活單元]激活線上的脈沖寬度,可以在繼續(xù)進(jìn)行數(shù)字計(jì)算之前獲得[模擬-數(shù)字轉(zhuǎn)換器]ADC的權(quán)重之和。”

在該芯片中,我們使用3級(jí)權(quán)重。權(quán)重可以是-1、0或1,并且我們使用兩個(gè)SRAM單元來(lái)存儲(chǔ)此權(quán)重級(jí)別。計(jì)算單元是一個(gè)模擬電路,頂部有一些其他晶體管。這會(huì)產(chǎn)生與存儲(chǔ)的三級(jí)權(quán)重和激活信號(hào)(DAC的輸出)相乘的比例的模擬信號(hào)。

嚴(yán)格來(lái)說(shuō),三級(jí)權(quán)重是以數(shù)字方式存儲(chǔ)的,但是所有計(jì)算都是在模擬域中完成的。”他補(bǔ)充說(shuō):“AnIA的成功推出標(biāo)志著朝著驗(yàn)證存內(nèi)計(jì)算(AiMC)中的模擬邁出了重要的一步。參考實(shí)現(xiàn)不僅表明在實(shí)踐中可以進(jìn)行模擬內(nèi)存計(jì)算,而且能效比數(shù)字加速器高十到一百倍。從我們的角度來(lái)看,這是機(jī)器學(xué)習(xí)程序中的一個(gè)里程碑,它表明模擬計(jì)算可以與數(shù)字計(jì)算具有相同的準(zhǔn)確性”。

Analog Inference Accelerator(AnIA)測(cè)試芯片是在Global Foundries位于德國(guó)德累斯頓的工廠基于22nm FD-SOI低功耗工藝構(gòu)建的。該芯片面積為4mm2,具有1024個(gè)輸入信號(hào)和512個(gè)輸出,其性能與當(dāng)今的GPU相似。它顯示出與數(shù)字實(shí)現(xiàn)相同的精度,誤差在1%以內(nèi),但功率效率為2900TOPS/W。低功耗和低成本的結(jié)合為嵌入式硬件中的邊緣AI圖像識(shí)別和傳感打開了機(jī)遇。

GF計(jì)算和有線基礎(chǔ)設(shè)施產(chǎn)品管理副總裁Hiren Majmudar說(shuō):“模擬計(jì)算是一個(gè)驚人的前沿,因?yàn)樗梢詼p少數(shù)據(jù)移動(dòng),這將成為主流。”

Edge AI測(cè)試芯片

“該測(cè)試芯片是向業(yè)界展示22FDX如何顯著降低能耗密集型AI和機(jī)器學(xué)習(xí)應(yīng)用程序功耗的關(guān)鍵一步,”Majmudar說(shuō)。

Verkest說(shuō):“我們獲得與GPU相同的性能,但具有更高的能源效率和小尺寸(4mm2)的芯片。如果增加陣列的大小,還將提高性能水平。”

GF將把AiMC包括在22nm FD-SOI(22FDX)技術(shù)中實(shí)現(xiàn)的功能與新的AiMC功能在GF位于德國(guó)德累斯頓Fab 1的最先進(jìn)的300mm生產(chǎn)線中生產(chǎn)。

他說(shuō):“我們正在看到GF與經(jīng)過(guò)驗(yàn)證的芯片合作伙伴,我們預(yù)計(jì)模擬計(jì)算芯片將在今年下半年和明年年初投入生產(chǎn),并在2022年或更晚一些進(jìn)入大眾市場(chǎng),”

GF的該版本使用了經(jīng)過(guò)修改的SRAM單元,但是其他存儲(chǔ)技術(shù)也可以使用相同的技術(shù)。imec的Verkest說(shuō):“您可以使用SRAM,MRAM,DRAM,這些都是我們研發(fā)工作的一部分,以了解最佳選擇。”

THEEND

最新評(píng)論(評(píng)論僅代表用戶觀點(diǎn))

更多
暫無(wú)評(píng)論