來源丨EE Times
作者丨Michael Azoff,Kiasco Research公司首席分析師
編譯丨科技行者
目前,整個AI芯片市場都圍繞著深度學習而展開。深度學習(DL),則正是讓AI應(yīng)用程序在現(xiàn)實世界中真正發(fā)揮作用的最成功的機器學習技術(shù)范例。
如今的AI芯片市場把所有注意力都集中在了加速深度學習方面——無論是訓練過程還是推理過程,加速已經(jīng)成為最核心的訴求。AI芯片市場的參與者也在迅速增加:在最近一份研究報告中,我們統(tǒng)計了全球約80家初創(chuàng)企業(yè),發(fā)現(xiàn)投資商為此投入105億美元,已經(jīng)有34家成熟參與者奮力競爭。很明顯,這種狀態(tài)不可能長期持續(xù)下去,但我們有必要對AI芯片市場進行剖析,更好地理解為什么一切會是現(xiàn)在這個樣子、未來可能如何變化、這些又意味著什么。
時光倒轉(zhuǎn)回2010年左右,當時英偉達在圖形處理單元(GPGPU)領(lǐng)域推出了高端通用計算(即如今的GPU)方案,將大型神經(jīng)網(wǎng)絡(luò)的訓練時間由幾個月縮短至數(shù)周、又進一步縮短至幾天乃至幾小時,最終推動深度學習技術(shù)的興起。英偉達圍繞AI計算市場拓展出價值數(shù)十億美元的新業(yè)務(wù),同時也促使更多其他芯片廠商與芯片架構(gòu)師開始考慮如何從零開始打造一套專門用于運行AI工作負載的架構(gòu),并借此更好地支持更多后續(xù)工作負載。如今的AI工作負載已經(jīng)集中為單一的深度學習領(lǐng)域,這也是市場需求所使然。
但市場的需求又呈現(xiàn)出多種多樣的面貌。雖然大多數(shù)AI訓練在數(shù)據(jù)中心(包括超大規(guī)模云環(huán)境)以及工作站上進行,但AI推理卻是隨處可見:云端、工作站上以及邊緣位置。其中,又以邊緣位置最為重要。
圖一:AI硬件加速器細分市場應(yīng)用
AI芯片市場的細分方式
無論選擇哪個具體領(lǐng)域,初創(chuàng)企業(yè)面臨的競爭都將極為激烈。我發(fā)現(xiàn)大家可以參考圖一,將整個市場理解成三角形結(jié)構(gòu),各個頂點都擁有自己的一套用于代表特殊市場需求的標準。最高點為數(shù)據(jù)中心、云以及高性能計算(HPC)環(huán)境對于AI芯片的需求。Cerebras很好地抓住了這一市場,制造出世界上最大的芯片——即晶圓級引擎。該細分市場只追求計算性能的最大化,功耗與成本都在其次。初創(chuàng)企業(yè)在這一領(lǐng)域面臨的最大挑戰(zhàn),在于超大規(guī)模企業(yè)與老牌廠商已經(jīng)牢牢把持住自己的優(yōu)勢區(qū)間——英偉達就在不斷發(fā)布新的改進式架構(gòu),其最新版本Ampere已經(jīng)于今年5月正式亮相。
而在以推理為基礎(chǔ)的三角形下邊,生存著能夠在保持一定準確率的同時對精度要求較低的芯片。其限制條件有所不同:芯片尺寸不能太大,延遲要低,功耗越低越好,而且單位成本必須低廉可控。正因為如此,邊緣應(yīng)用市場可以說是初創(chuàng)企業(yè)的活躍區(qū)域。這方面的競爭沒有英偉達這類巨鱷級企業(yè)的參與,他們也明確表示不打算參與大宗商用推理芯片市場。但競爭對手較弱實際上意味著客戶本身話語權(quán)及實力較強,這些客戶甚至有能力隨時建立或者收購一家初創(chuàng)公司。
AI芯片未來將走向何方
我們之前提到過,AI芯片領(lǐng)域存在著太多競爭者,圖一中的各個頂點附近實際上都有廠商在盤踞。而在之前提到的各項因素中,廠商需要打造出成熟的軟件開發(fā)棧、建立起投身于市場競爭的明確意愿,同時也要探索將深度學習應(yīng)用嵌入廣泛產(chǎn)品的可行道路。市場波動已經(jīng)初現(xiàn)端倪,Wave Computing于今年4月宣布破產(chǎn)正是其中一例。
但好消息是,激烈的競爭為我們帶來速度更快、性能更好的AI芯片。AI研究人員能夠由此獲得助益,安心運行自己的種種新穎模型設(shè)計,而未來必將出現(xiàn)的新型算法也將逐步取代深度學習目前的霸主地位。最重要的是,對于希望能夠利用AI重現(xiàn)人類大腦機能的研究者來說,深度學習已經(jīng)是一條明確走不下去的道路。因此,下一代算法可能迎來重大變革,同時對加速技術(shù)類型提出新的要求。
在實際使用案例中,深度學習應(yīng)用的廣度使這些芯片擁有了價值數(shù)十億美元的市場。而隨著5G設(shè)施的普及,市場規(guī)模將繼續(xù)保持增長,對AI硬件加速器的需求也不會動搖。AI芯片市場的合理化進程已經(jīng)開始,未來競爭態(tài)勢將隨著下一代AI算法的出現(xiàn)而改變——但具體時間目前誰也說不清楚。