本來是要給傳統(tǒng)行業(yè)賦能,結(jié)果要靠傳統(tǒng)行業(yè)續(xù)命,這個就是很多AI芯片公司要面對的現(xiàn)實。
江湖上有一位赫赫有名的大師,曾經(jīng)傳授過一句口訣“站在風口上,豬都會飛”;當很多后起之秀憑借口訣能夠御劍飛行時,其中最想請教大師的問題就是“在風口上飛起來了,但是要怎樣落地”。
當下的AI芯片創(chuàng)業(yè)公司都遇到這個問題,融資一輪又一輪,頂會論文一篇又一篇,PR一場接一場,流片一款又一款,現(xiàn)在最糾結(jié)問題還是怎么落地?
對于AI產(chǎn)業(yè)來說,萬物AI可能早晚都能實現(xiàn),但是對于一個AI芯片公司,最重要的活著看到那一天,而芯片產(chǎn)品落地是活著的前提條件。
01緣起
世界上本沒有AI芯片,AI算法多了,便有了AI芯片。
AI算法出現(xiàn)后,業(yè)界發(fā)現(xiàn)原來CPU這種計算體系結(jié)構(gòu),效率太低,可用性極差,特別是在IOT端,都沒有什么有效的解決辦法;如果一個東西滿足不了應(yīng)用,那么就需要有更有效的計算架構(gòu)來替代,DSA(領(lǐng)域?qū)S眉軜?gòu))應(yīng)運而生,這個就是AI芯片的緣起。
一位AI大師苦思冥想,悟道新算法;或者一個電路或者體系結(jié)構(gòu)大師,苦思冥想,悟道新結(jié)構(gòu),他們不約而同做了一款AI芯片,可以在ISSCC/Hotchips等頂會上一鳴驚人;有效提升性能,降低存儲代價,于是想做一個AI芯片公司。
大體上,AI芯片分為云側(cè)AI芯片和端側(cè)AI芯片;云側(cè),用在數(shù)據(jù)中心;端側(cè),用在IOT,也被稱為AIOT;做AI芯片也面臨兩條路,端側(cè)AI芯片和云側(cè)AI芯片;AI大師覺得,如果芯片面積小,功耗低一點,就走端側(cè);面積大,性能高一點,那就走云側(cè);但這兩條路的落地都充滿挑戰(zhàn)。
如果在云端:就是主CPU和AI芯片分離,AI芯片是專用的加速芯片,以加速卡的形式用于服務(wù)器上;而在端側(cè),需求截然不同,必須是一個完整的SOC;所有端側(cè)AI芯片都是SOC,不存在獨立AI芯片的空間。
AI芯片好比一個人的右腦,負責音樂,繪畫,空間幾何想象;但是用戶對終端AI芯片的需求,是一個完整的人,不但需要右腦,還需要左腦(CPU),五臟(其他功能模塊),四肢(IO模塊)等等,這些都齊備,這才能滿足用戶的需求。
以安防領(lǐng)域(智慧視覺)舉例,IPC SOC攝像頭芯片,目前有好多AI公司計劃在此方面發(fā)力,IPC SOC芯片在AI芯片不存在時,就已經(jīng)是業(yè)界相對標準的做法了。
一個IPC SOC,由CPU,視頻編解碼模塊(H.264/H.265),圖像處理模塊(ISP),音頻編解碼模塊,視頻和圖形處理模塊,安全引擎,外圍接口(mipi,ddr,I2S,USB,SDIO等等)組成,最后才是AI處理模塊。
有AI模塊的加入,支持神經(jīng)網(wǎng)絡(luò)加速,可以完成目標(人臉)檢測與跟蹤、場景識別,這個只是這個IPC SOC中其中一個較小的功能。
AI是IPC SOC是一個特性(feature);沒有AI也是一個具備廣泛應(yīng)用IPC的SOC芯片,況且如果內(nèi)嵌GPU的話,也能做不少AI的特性的工作;從中可以看出,在終端AI芯片側(cè),AI是輔助,上單、打野、中單、射手都是必須的,否則5V5根本贏不了比賽。
道生一,一生二,二生三,三生萬物。
從AI大師悟道AI算法,到AI IP,現(xiàn)在到AI SOC芯片;一個比一個難;但還不是最難的,完成了整個軟件解決方案SDK;這才達到了這個及格線。
道是AI算法,一是AI的IP,二是SOC芯片,三是軟件方案SDK。
走到這一步才具備推廣的基礎(chǔ),是萬物皆可AI的前提。
02雷神之錘
既然萬物可AI,那么AI就可以賦能傳統(tǒng)行業(yè),這個邏輯沒有問題,那么有哪些傳統(tǒng)行業(yè)可以被"賦能",這個是AI落地的核心問題。
目前在終端側(cè)AI,看的比較清楚的,一個是視頻監(jiān)控(安防),已經(jīng)有很多玩家了;另一個是自動駕駛,也有很多玩家了;其他的領(lǐng)域還有哪些?
AI芯片公司就像《復仇者聯(lián)盟》里的雷神托爾,拿著一把錘子(AI芯片),在所有行業(yè),都砸一遍,看看有什么油水;俗話說,手里有一把錘子,看什么都是釘子。
智能眼鏡,智能家電,自動駕駛,安防,智慧零售,能源勘探,智能硬件,所有的地方都要拿錘子敲一下;用AI芯片賦能傳統(tǒng)行業(yè),AI芯片這把錘子,不論看到什么有公司打算去砸兩下;現(xiàn)在被AI這把錘子沒有被敲過的傳統(tǒng)行業(yè)已經(jīng)不多了。
本來是要給傳統(tǒng)行業(yè)賦能,結(jié)果要靠傳統(tǒng)行業(yè)續(xù)命,這個就是很多AI芯片公司要面對的現(xiàn)實;“拿著錘子找釘子”是無奈之舉。
但是這個是一個有效的手段,AI芯片公司實際上花了很大力氣來教育市場;但是能夠產(chǎn)生價值的地方不多,更多的時候是被市場教育了。
但是找到目標客戶,盡快產(chǎn)生價值,一方面可以實現(xiàn)芯片及方案落地,另一方面可以實現(xiàn)AI芯片的快速迭代。
找到最擅長的落地場景,給客戶提供一整套的解決方案,便于拿下商業(yè)合同,就需要變成所謂的行業(yè)解決方案專家;傳統(tǒng)的芯片公司,都是提供芯片給方案廠家,方案廠家做成整機或者方案給用戶。
現(xiàn)在AI這一波潮流催生很多公司,一個是專門的AI方案廠家本身就不成熟,能夠賺到錢的AI方案公司也不多,能出真金白銀來采購芯片就更少。
另一個方案廠家本身就直接開發(fā)AI芯片;搞得很多AI芯片公司只能去推方案;所以為了這瓶醋,不得已就得去包一盤餃子。
03華山論劍
與終端AI芯片形態(tài)各異完全不同,云端AI芯片的形態(tài)非常類似,就是服務(wù)器插AI加速卡,接口目前是PCIE;同時都需要外接DRAM存儲,原來直接DDR,現(xiàn)在都是直接HBM。
總之,這個形態(tài)已經(jīng)固定好了,就是在云數(shù)據(jù)中心領(lǐng)域,提供AI算力,看誰的芯片性能更高,適用性好,評價軟件和標準都一套成熟的模式和框架。
目前NVIDIA的A100芯片,目前有826mm2,采用TSMC 7nm工藝,通過這兩個指標都來看,云端芯片面積大,制程工藝先進,因此可見,云端芯片的資金投入規(guī)模高,對芯片設(shè)計公司的技術(shù)挑戰(zhàn)也非常之大;但是技術(shù)挑戰(zhàn)雖大只是小問題,落地才是大問題。
這個領(lǐng)域已經(jīng)被NVIDIA占據(jù)了,這個就是華山論劍,做出來就需要和NVIDIA正面碰撞;不論做出任何一款云端的AI芯片,客戶就會靈魂三問:與NVIDIA的同款相比性能指標如何?功耗對比如何?適配AI算法如何?
如果芯片廠商說,孩子剛生出來,就要和業(yè)界大佬去比,這個太苛求了吧。但是云端客戶為什么苛刻,非要和NVIDIA去比,因為這個領(lǐng)域的客戶也是非常集中,并且很強勢。
世界范圍內(nèi)是亞馬遜,谷歌,微軟,阿里;國內(nèi)是阿里云,騰訊云,華為云,天翼云,百度云,金山云,京東云等等。
NVIDIA目前在云端的AI加速卡占據(jù)了95%以上的市場,如果他們要換解決方案,必然必須要比NVIDIA有優(yōu)勢,功耗,性能,價格,適配性等等,這個是繞不過去的。"利不百,不變法;功不十,不易器",就是這個道理。
另一個取巧的方法,根據(jù)對云端業(yè)務(wù)的深入理解,避開NVIDIA的九陽神功,做云端AI的定制化,不采用類似NVIDIA可編程的SM(流處理器)的路線。
走谷歌TPU的道路,不用支持所有的AI算法,不用可編程,只支持某些AI算法,走專用芯片路線,好處比較高效,比GPU更專用;功耗面積成本肯定對NVIDIA都有優(yōu)勢。
這種做法的風險就是,AI領(lǐng)域每年都會有很多新的算法及特性出來,是一個不斷發(fā)展進度的領(lǐng)域;如果不是高度靈活的可編程架構(gòu),今天的AI芯片船票,還能不能趕上明天客戶應(yīng)用的客船,就要打一個大大的問號。
還有一點不利的因素,不論是國外還是國內(nèi),很多云廠,一方面都用NVIDIA的解決方案,另一方面都在自己做芯片。
谷歌的TPU,阿里的含光,華為的昇騰,百度的昆侖等等;最近的字節(jié)跳動也擠入了這個行業(yè);不禁令人感嘆,大廠做芯,有需求,有動力,已經(jīng)蔚然成風,既是裁判又是運動員,云端AI芯片創(chuàng)業(yè)公司如何與之競爭?
04落地
雖然萬物可AI,對于客戶來講,可能需要的AI場景值不值得投入很多錢,是一個大問題。
例如客戶需求就是一個MCU,原本就是一片幾塊錢的預算,帶上AI功能后也不會偏差太多;對于AI公司來講,如果在這個細分賽道上再提供詳細解決方案,這點錢是否值得這么大的軟件及方案投入是一個大大的問號。
以前有的公司做AI項目的時候,經(jīng)常會收到各種定制需求,比如在廢物回收領(lǐng)域,用戶要用AI實現(xiàn)物品的分揀,就需要定制一套AI解決方案,這種例子不勝枚舉。
算法要實現(xiàn),應(yīng)該沒有問題,但是用戶不是需要一個AI算法或者芯片,而是一整套AI解決方案,開動這套方案軟件的投入就更大。
到底為了這瓶醋,包盤餃子值不值?
AI芯片廠商高投入研發(fā)過后,卻不知道自己的產(chǎn)品要賣給哪些客戶或者說應(yīng)用到哪些產(chǎn)品上,無法找到可持續(xù)性的落地場景。
如果通過系統(tǒng)方案或者示范性項目,把芯片用上,讓客戶看到真正的價值,形成行業(yè)示范性應(yīng)用案例,甚至推廣規(guī)范,那就是非常值得的。
在這個過程中,可以發(fā)現(xiàn)芯片的一些問題,同時為下一步芯片的迭代提供了方向,而AI應(yīng)用則要通過數(shù)據(jù)來進行功能迭代,形成數(shù)據(jù)閉環(huán)迭代,一舉數(shù)得,非常有效。
AI芯片細分賽道越來越多,天下大勢,分久必合,合久必分;不可能每個賽道都有一顆AI芯片;量上不去,成本也cover不??;那么就是要聚類。
對于AI芯片公司,不可能每個行業(yè)場景都要一套方案,需要認清自己的能力邊界,成為細分行業(yè)的老大,才能真正站穩(wěn)腳跟。
推廣過程中,用戶會發(fā)現(xiàn)AI芯片公司對行業(yè)的理解遠遠不及用戶,但是只有成為這個行業(yè)的專家,對行業(yè)背景的深入理解,才能夠帶給用戶物超所值的解決方案,這個要求比傳統(tǒng)的芯片公司對芯片的理解又更深了一層,也更難了一層。
AI的技術(shù)之風催熟了很多AI芯片公司,而AI的應(yīng)用落地則是滯后的;當AI芯片脫離單純討論"技術(shù)能力"的范疇,如何能夠教育市場,減少技術(shù)到應(yīng)用的時間,把研發(fā)投入快速轉(zhuǎn)換成銷售和利潤,是一個很有挑戰(zhàn)的問題。
因此瞄準萬物AI的目標,催化整個AI的應(yīng)用落地;"為了這瓶醋,而包一頓餃子"的方法在目前階段也不失一個解決之道。