本文來自微信公眾號“電子發(fā)燒友網(wǎng)”，作者/李彎彎。
如今，AI在邊緣側的應用越來越廣泛，這其中少不了AI SoC芯片的支持，邊緣計算AI SoC是一種集成了人工智能（AI）和邊緣計算能力的系統(tǒng)級芯片。這種芯片結合了高性能的處理器核心、AI加速器、內(nèi)存控制器、外設接口以及通信接口等關鍵組件，旨在在數(shù)據(jù)產(chǎn)生的源頭附近（即邊緣）實現(xiàn)實時的數(shù)據(jù)處理、分析和決策。
邊緣計算SoC的發(fā)展歷程
SoC的發(fā)展經(jīng)歷了多個階段，早期階段（1970年代至1980年代），微處理器技術開始興起，英特爾（Intel）推出了第一款微處理器Intel 4004，這通常被認為是SoC技術的起點。隨著制造工藝的改進，設計師開始將更復雜的元素（如中央處理器CPU、內(nèi)存和輸入/輸出I/O電路）集成到單個芯片上，創(chuàng)建更先進的應用特定集成電路（ASIC）。
進一步發(fā)展階段（1990年代至2000年代）：隨著半導體工藝技術的進一步發(fā)展，將整個系統(tǒng)（包括模擬和數(shù)字功能）集成到單個芯片上成為可能。這為邊緣計算提供了更強大的硬件支持，因為邊緣設備需要具備一定的數(shù)據(jù)處理和計算能力。在這個時期，SoC的設計變得更加復雜，集成了更多的功能和組件，如圖形處理器（GPU）、數(shù)字信號處理器（DSP）等。
定制化SoC的發(fā)展（2010年代）：隨著物聯(lián)網(wǎng)（IoT）應用、可穿戴設備以及邊緣計算設備的需求不斷增加，制造商開始針對特定用例調(diào)整SoC設計，整合人工智能（AI）和機器學習（ML）功能。這推動了定制化SoC的發(fā)展，使其能夠更好地滿足特定應用的需求，提高性能和效率。
AI與SoC的深度融合（2020年代及以后）：隨著進入AI、5G連接和邊緣計算時代，SoC繼續(xù)演變以適應不斷增長的復雜性和處理要求。AI技術成為SoC架構的重要組成部分，為邊緣設備提供了更強大的智能處理能力。例如，通過集成AI加速器、神經(jīng)網(wǎng)絡處理器（NPU）等專用硬件，SoC可以加速AI算法的執(zhí)行，提高處理速度和效率。
如今，邊緣計算AI SoC的應用涵蓋多個領域和行業(yè)。如智能制造，在通過安裝集成了AI SoC的邊緣計算設備，可以實時監(jiān)測生產(chǎn)設備的運行狀態(tài)、產(chǎn)品質(zhì)量等信息。這些設備能夠實時分析數(shù)據(jù)，預測設備故障，優(yōu)化生產(chǎn)流程，提高生產(chǎn)效率和產(chǎn)品質(zhì)量。
再如智慧城市，在智能交通系統(tǒng)中，邊緣計算AI SoC可以實時分析交通流量、車輛行駛軌跡等數(shù)據(jù)，優(yōu)化交通信號燈的控制策略，緩解交通擁堵。在智能安防領域，通過在城市各個角落部署邊緣計算設備，可以實時監(jiān)測城市的安全狀況，進行人臉識別、行為分析等操作，提高城市的公共安全水平。
還有醫(yī)療領域，在醫(yī)院中，邊緣計算AI SoC可以實時監(jiān)測患者的生理數(shù)據(jù)，如心率、血壓、血糖等。通過對這些數(shù)據(jù)的實時分析，醫(yī)生可以及時了解患者的健康狀況，為患者提供更加準確的診斷和治療方案。在遠程醫(yī)療領域，邊緣計算AI SoC可以實現(xiàn)遠程會診、遠程手術等功能。醫(yī)生可以通過遠程訪問患者的醫(yī)療數(shù)據(jù)，進行遠程診斷和治療，提高醫(yī)療服務的效率和可及性。
邊緣AI SoC支持大模型
隨著大模型的發(fā)展，其在邊端側的部署應用成為趨勢，如今也有不少企業(yè)推出邊緣SoC芯片支持大模型的運行。如邊緣AI半導體公司安霸（Ambarella），日前在美國AutoSens展會宣布推出兩款用于車載車隊遠程信息處理系統(tǒng)的最新一代AI系統(tǒng)集成芯片（SoC）。
新款CV75AX非常適合集成前置ADAS和駕駛員監(jiān)控系統(tǒng)（DMS）的AI行車記錄儀，與安霸上一代SoC相比，其AI性能提高了2倍，使最新的Transformer神經(jīng)網(wǎng)絡能夠提高準確性并減少誤報，而無需針對每個對象進行訓練。
新款CV72AX非常適合下一代車載網(wǎng)關，支持多達10個攝像頭，其AI性能比其前代產(chǎn)品高出6倍，支持視覺Transformer和多模態(tài)視覺語言模型（VLM)，可提供實時監(jiān)測預警，以及多通道視頻預分類和自然語言搜索，以實現(xiàn)更高效的視頻分析。
安霸此前就宣布推出了基于CV72芯片的多模態(tài)大模型推理解決方案——Cooper Mini。這一解決方案是為邊緣計算環(huán)境量身定制的，特別適用于需要在設備上直接進行高級數(shù)據(jù)處理的應用。安霸在2024年CES期間推出了基于N1的多模態(tài)大模型解決方案Cooper Max，通過單顆N1芯片支持高達340億參數(shù)的多模態(tài)大模型推理。新推出的基于CV72的Cooper Mini，則可實現(xiàn)低功耗系統(tǒng)單芯片高達30億參數(shù)的多模態(tài)大模型推理。
還有AMD此前推出的第二代Versal自適應SoC，其中的Versal AI Edge系列特別針對AI驅動型嵌入式系統(tǒng)進行了設計。這款SOC每瓦TOPS（每秒萬億次操作/瓦特）最多提升3倍，標量算力最多提升10倍，使其能夠更有效地支持大模型的部署和運行。
國內(nèi)的云天勵飛也有一款邊緣計算芯片DeepEdge10，這是一款國產(chǎn)Chiplet大模型推理芯片，內(nèi)置自研新一代神經(jīng)網(wǎng)絡處理器NNP400T，通過D2D高速互聯(lián)Chiplet技術、C2CMesh互聯(lián)架構實現(xiàn)算力擴展，能夠支持千億級參數(shù)大模型，落地于邊緣設備和邊緣服務器。
還有北京奕斯偉推出的一款邊緣計算SoC芯片EIC7700X，采用64位RISC-V高性能處理器，并搭配自主研發(fā)的高效神經(jīng)網(wǎng)絡計算單元，支持全棧浮點計算，全面加速生成式大模型。它擁有豐富的外圍擴展接口，并具備強大的音視頻處理能力，在計算機視覺應用領域具有超高的適應能力。
寫在最后
總之，邊緣計算AI SOC在當前的計算領域具有顯著的優(yōu)勢，包括效率高、功耗低、安全性高、實時分析、分布式處理等，憑借著諸多優(yōu)勢，邊緣計算SOC已經(jīng)在各個領域得到應用。同時，也有不少邊緣SOC能夠支持大模型的運行。不過邊緣計算SOC也仍然尤其局限性，如定制化成本高、技術更新迅速、數(shù)據(jù)隱私和安全挑戰(zhàn)等，需要持續(xù)去突破。
