本文來自微信公眾號(hào)“半導(dǎo)體行業(yè)觀察”,編譯自theregister。
來源:內(nèi)容編譯自theregister,謝謝。
如果您現(xiàn)在還沒有聽說過神經(jīng)處理單元(NPU),那么您一定錯(cuò)過了英特爾、AMD和高通一年的人工智能營(yíng)銷。
在過去的12個(gè)月中,這些專注于AI的處理器被吹捧為下一個(gè)必不可少的升級(jí)——顯然每個(gè)人都需要它來充分利用人工智能。但這是否只是營(yíng)銷炒作,還是NPU真的提供了它們所承諾的變革價(jià)值?
什么是NPU?
NPU是片上系統(tǒng)(SoC)中的專用處理器,旨在處理特定于AI的任務(wù),例如背景噪音抑制、實(shí)時(shí)視頻增強(qiáng)和基本的生成AI功能。包括英特爾(其Meteor Lake中的VPU)、AMD(其Ryzen AI)和高通(其Hexagon AI處理器)在內(nèi)的公司都已將NPU嵌入到其芯片中,聲稱它們將通過使設(shè)備更智能、更高效來徹底改變計(jì)算體驗(yàn)。其想法是從CPU和GPU中卸載AI工作負(fù)載以節(jié)省電量,理論上可以延長(zhǎng)電池壽命并提供更快的片上AI處理速度。
但是,這些支持人工智能的處理器是否真的具有改變游戲規(guī)則的功能,還是它們占用了寶貴的芯片空間,而這些空間可以更好地用于滿足用戶的實(shí)際需求?
NPU優(yōu)勢(shì)背后的現(xiàn)實(shí)
雖然NPU確實(shí)能提高效率,尤其是在移動(dòng)設(shè)備中,節(jié)省的每一瓦電都很有價(jià)值,但它們對(duì)筆記本電腦的影響(電池壽命已經(jīng)很長(zhǎng))卻很難證明。NPU處理的任務(wù)大多是小眾任務(wù),對(duì)普通用戶的體驗(yàn)影響有限。如果你經(jīng)常使用語音命令或嚴(yán)重依賴視頻通話增強(qiáng)功能,NPU可能會(huì)節(jié)省一些電池壽命。但對(duì)于大多數(shù)用戶來說,目前它只是一個(gè)不錯(cuò)的功能,而不是必不可少的功能。多年來,CPU和GPU已經(jīng)充分管理了這些功能,雖然NPU可能會(huì)略微降低功耗,但創(chuàng)新更多的是提高效率,而不是提供有意義的新功能。
以英特爾的Meteor Lake VPU為例。它被宣傳為設(shè)備上AI任務(wù)的解決方案,例如視頻通話背景模糊和噪音消除——這些任務(wù)CPU和GPU一直在有效處理。主要好處是功率效率略有提升,雖然有用,但考慮到整體計(jì)算體驗(yàn),這并不起眼。AMD的Ryzen AI采用了類似的方法,在沒有突破性功能的情況下提高了效率。高通的Hexagon處理器借鑒了其移動(dòng)血統(tǒng),為筆記本電腦帶來了類似的功能,但并沒有顯著擴(kuò)大大多數(shù)用戶的應(yīng)用范圍。
TOPS勝出
在討論NPU時(shí),供應(yīng)商通常會(huì)強(qiáng)調(diào)TOPS作為性能指標(biāo)。英特爾即將推出的Lunar Lake平臺(tái)擁有48 TOPS NPU,AMD的Ryzen AI 300系列擁有55 TOPS,而高通的Snapdragon X Elite擁有45 TOPS NPU。這些數(shù)字被隨意拋出,好像它們對(duì)現(xiàn)實(shí)世界的用戶具有實(shí)質(zhì)性意義。
然而,TOPS是在理想實(shí)驗(yàn)室條件下對(duì)峰值性能的理論測(cè)量。它基于乘法累加(MAC)單元的數(shù)量和工作頻率計(jì)算得出,但并不一定能轉(zhuǎn)化為日常使用中的實(shí)際性能提升。對(duì)于普通用戶來說,這些數(shù)字就像他們永遠(yuǎn)不會(huì)以最高速度駕駛的汽車的理論馬力一樣有意義。
權(quán)衡:芯片空間利用率
添加NPU會(huì)占用寶貴的芯片空間,而這些空間原本可以用來增強(qiáng)更普遍有益的功能,包括CPU內(nèi)核或GPU功能。以AMD基于Zen 5的Ryzen AI 300移動(dòng)SoC為例,NPU占用了芯片空間的10-15%左右,這是一個(gè)相當(dāng)大的比例。如果將這些空間用于添加更多CPU內(nèi)核,用戶就可以在多線程應(yīng)用程序中體驗(yàn)到明顯的改進(jìn),讓開發(fā)人員、內(nèi)容創(chuàng)建者和高級(jí)用戶都受益。
NPU真的能適應(yīng)未來嗎?
制造商將NPU宣傳為在AI驅(qū)動(dòng)的世界中面向未來的筆記本電腦的必備功能。然而,鑒于AI的快速發(fā)展,很難預(yù)測(cè)哪些硬件功能將保持相關(guān)性。雖然NPU確實(shí)為特定的AI任務(wù)提供了一些優(yōu)勢(shì),但大多數(shù)用戶不太可能注意到它們的缺失。大多數(shù)日常計(jì)算任務(wù)(如網(wǎng)頁瀏覽、文檔編輯和媒體消費(fèi))不需要AI驅(qū)動(dòng)的優(yōu)化。
即使對(duì)于偶爾使用AI功能的用戶,CPU和GPU通常也足以處理這些工作負(fù)載,盡管功耗略高。NPU的前景更多地在于潛在的未來應(yīng)用,而不是目前普通消費(fèi)者的切實(shí)利益。
噱頭還是真正的創(chuàng)新?
盡管人工智能有許多實(shí)際應(yīng)用,例如語音轉(zhuǎn)文本和實(shí)時(shí)翻譯工具,但將NPU納入筆記本電腦似乎為時(shí)過早。這項(xiàng)技術(shù)似乎是一種尋找問題的解決方案,其驅(qū)動(dòng)力更多是營(yíng)銷策略而非實(shí)際用戶需求。在人工智能應(yīng)用真正成為主流并在日常計(jì)算中不可或缺之前,NPU可能仍是一種被過度炒作的功能,而不是必不可少的組件。
與此同時(shí),消費(fèi)者可能會(huì)從處理能力、圖形功能和整體系統(tǒng)性能的增強(qiáng)中受益更多——這些改進(jìn)提供了立竿見影的優(yōu)勢(shì)。就目前而言,NPU是一項(xiàng)有趣的發(fā)展,但可能并非他們所期望的改變游戲規(guī)則的創(chuàng)新——至少對(duì)用戶而言。
PC制造商熱衷于推廣包含NPU的硬件,可能是因?yàn)锳I PC有望將整個(gè)行業(yè)的平均銷售價(jià)格提高5%到10%。
參考鏈接
https://www.theregister.com/2024/11/11/npu_debate/