深度丨DPU和DOCA,英偉達的新戰(zhàn)場

方文三
計算機處理器分為CPU和GPU,它們均可執(zhí)行計算任務。然而,兩者在計算方式上存在顯著的差異。CPU更適合進行線性計算,而GPU則更擅長并行計算。

本文來自微信公眾號“AI芯天下”,作者/方文三。

英偉達的崛起是基于CUDA和GPU的,但隨著人工智能、大數據和云計算的興起,英偉達也需要不斷創(chuàng)新來保持競爭力。

為此,他們開始著手開發(fā)DPU并推出了DOCA。

1.png

英偉達真正的護城河是軟硬件生態(tài)

計算機處理器分為CPU和GPU,它們均可執(zhí)行計算任務。然而,兩者在計算方式上存在顯著的差異。CPU更適合進行線性計算,而GPU則更擅長并行計算。

通過CUDA這一媒介,研究人員和編程人員能夠使用編程語言與硬件設備進行交互,將復雜的數學問題分解成多個簡單的子問題,然后分發(fā)給GPU的多個計算核心進行處理。

在航空航天、生物科學研究、機械和流體模擬以及能源探索等領域,有80%的研究工作是建立在CUDA基礎之上的。

其實各廠商的AI芯片的性能差距并不很大,也可以追趕,拉開差距的關鍵在于英偉達的CUDA計算架構及軟硬件生態(tài)。

通過CUDA技術的運用,原本僅用于3D渲染的GPU得以在通用計算領域發(fā)揮作用,從而將應用領域從游戲(圖形渲染)擴展到了高性能計算、自動駕駛等多個領域。

英偉達作為GPU核心供應商,通過CUDA架構構建了一個高度穩(wěn)定的開發(fā)者生態(tài)系統,推動了其從傳統GPU供應商轉型為平臺化公司。

1.png

AI浪潮下,軟硬件生態(tài)位發(fā)生變化

而在生成式AI時代,人工智能正在呈爆發(fā)式發(fā)展,成為數據中心算力需求的主要驅動力之一。

為了卸載、加速和隔離數據中心基礎設施工作負載,DPU應運而生。

通過為高帶寬、低延遲、數據密集的計算場景提供計算引擎,DPU成了繼CPU、GPU之后,數據中心場景中的第三顆重要的算力芯片。

可以說,DPU是企業(yè)構建加速計算平臺、AI工廠的關鍵。

DPU的最基本功能在于其能夠取代CPU,從而構建以數據為中心的計算架構。

通過采用DOCA,開發(fā)者可以創(chuàng)建軟件定義的、云原生的、由DPU加速的服務。

以此來對未來的數據中心基礎設施進行編程,同時實現零信任保護,以滿足現代數據中心日益增長的性能和安全需求。

1.png

不斷進階的DPU

去年英偉達發(fā)布了第一款DPU產品BlueField-2,今年的GTC上又發(fā)布了BlueField-3,BlueField-3會在明年上半年推向市場。

而從其路線圖上也可以看出,其DPU產品的性能實現了很大的跨越。從BlueField-2到BlueField-3,它的整形計算能力提升了5倍。

BlueField-2目前為軟件定義的網絡安全和存儲卸載了相當于125個CPU核的工作量,而BlueField-3則能達到300個CPU核。

到了BlueField-4以后,英偉達把GPU集成到DPU里來,DPU就真正成為一個完整的數據中心單元。

據預測,到2025年,DPU全球市場容量將達到120億美金。

在這個領域,業(yè)界已經形成了一種共識,即采用可編程的、開放式的基礎設施。

社會數字化轉型浪潮下,潛在海量數據待處理,DPU的邊界、職能、價值都尚在探討前期。

1.png

DOCA軟件堆棧同步DPU腳步

通過DOCA,開發(fā)人員可以利用行業(yè)標準的API在英偉達BlueField數據處理器(DPU)上快速創(chuàng)建網絡,存儲,安全以及管理服務,以及AI/HPC的一系列應用程序和服務。

因此,為了在這個市場獲得更大的成功,英偉達必須努力提高DOCA的完善程度和普及程度。

在2020年的GTC大會上,英偉達發(fā)布了DOCA 1.0。

在2021年,隨著DPU產品在市場上的成功,英偉達推出了與之配合的DOCA 1.2。

為了進一步擴大在DPU市場的份額,英偉達不斷加大技術創(chuàng)新的力度,于2022年5月推出了DOCA 1.3。

DOCA框架為開發(fā)者提供了一致的開發(fā)體驗,簡化了開發(fā)環(huán)境和構建部署的復雜性,從而為開發(fā)者帶來了諸多便利。

近日,據英偉達中國官方微博消息,英偉達今日發(fā)布首部DPU和DOCA編程入門書籍《數據處理器:DPU編程入門》,號稱可為使用英偉達BlueField系列DPU和DOCA開發(fā)環(huán)境的開發(fā)者提供實用指南。

1.png

結尾:

英偉達的DPU和DOCA技術無疑是一項重大突破,但它們面臨著激烈的市場競爭。

包括Marvell、Cisco和AMD等廠商也在積極研發(fā)DPU技術,亞馬遜、阿里巴巴等云服務提供商也已經在數據中心中采用DPU技術。

競爭激烈,但英偉達憑借其豐富的經驗和強大的研發(fā)實力,仍然有望在這個領域取得成功。

部分資料參考:硅基研究室:《英偉達的「鐮刀」,不是AI芯片》,比特洞察:《英偉達DPU借DOCA積累更多致勝元素》,岑子時評:《CUDA如何改變了科學計算的規(guī)則》

THEEND

最新評論(評論僅代表用戶觀點)

更多
暫無評論