本文來(lái)自中國(guó)電子報(bào)、電子信息產(chǎn)業(yè)網(wǎng),作者/宋婧。
1769年,英國(guó)人瓦特改良的蒸汽機(jī)掀開了熱力時(shí)代的序幕。今天,伴隨AI算量需求急劇增加倒逼傳統(tǒng)計(jì)算架構(gòu)加速革新,數(shù)據(jù)成為關(guān)鍵生產(chǎn)要素,算力時(shí)代悄然開啟。3月23日,全國(guó)政協(xié)委員、中國(guó)科學(xué)院計(jì)算技術(shù)研究所研究員張?jiān)迫?ldquo;信息化百人會(huì)2035數(shù)字議程伙伴行動(dòng)·領(lǐng)導(dǎo)者三周會(huì)”上表示:“計(jì)算已經(jīng)成為智能世界的關(guān)鍵驅(qū)動(dòng)力,算力服務(wù)業(yè)的崛起意味著我們正式進(jìn)入算力經(jīng)濟(jì)時(shí)代。”
業(yè)內(nèi)普遍認(rèn)為,算力的提升在拉動(dòng)GDP方面有非常明顯的效果。有關(guān)國(guó)際機(jī)構(gòu)統(tǒng)計(jì),中國(guó)總算力排在全球第二,僅次于美國(guó),但人均算力方面中國(guó)還處于中等發(fā)展國(guó)家水平,因此存在很大的鴻溝去跨越。可以看到,算力的水平和國(guó)家智能水平有很大的關(guān)系,5G、物聯(lián)網(wǎng)、區(qū)塊鏈、元宇宙、AR/VR等新興技術(shù)的普及與發(fā)展帶來(lái)了爆發(fā)式的算力需求。
據(jù)悉,早在2018年,張?jiān)迫褪状翁岢隽?ldquo;算力經(jīng)濟(jì)”概念,指出以計(jì)算為核心的算力經(jīng)濟(jì)將成為衡量一個(gè)地方數(shù)字經(jīng)濟(jì)發(fā)展程度的代表性指標(biāo)和新舊動(dòng)能轉(zhuǎn)換的主要手段。經(jīng)過(guò)5年的發(fā)展,當(dāng)前的趨勢(shì)已經(jīng)充分表明,隨著超算與云計(jì)算、大數(shù)據(jù)、人工智能的融合創(chuàng)新,算力成為當(dāng)前整個(gè)數(shù)字經(jīng)濟(jì)社會(huì)發(fā)展的關(guān)鍵推動(dòng)力。
“算力服務(wù)業(yè)在2021年至2022年間異軍突起,今年會(huì)更加火爆。”張?jiān)迫赋?,如果說(shuō)算力是硬件和軟件配合共同執(zhí)行某種計(jì)算需求的能力的話,那么,算力服務(wù)是提供算力的一種商業(yè)模式,是包括算力生產(chǎn)者、算力調(diào)度者、算力服務(wù)商以及算力消費(fèi)者在內(nèi)的算力產(chǎn)業(yè)鏈上算力經(jīng)濟(jì)模式的統(tǒng)稱,他們共同構(gòu)成一個(gè)閉環(huán)的“算力經(jīng)濟(jì)”的產(chǎn)業(yè)鏈。
伴隨算力經(jīng)濟(jì)的發(fā)展,超算技術(shù)和人工智能的融合創(chuàng)新讓智能計(jì)算中心成為新基建熱點(diǎn)。智能計(jì)算中心指的是專門用于人工智能計(jì)算的中心。今天,可以看到,智能計(jì)算中心越來(lái)越熱,使得人工智能訓(xùn)練的效果特別好,除了寫新聞,還可以編故事、聊天,做很多事情。
在摩爾定律放緩的情況下,以英偉達(dá)(NVIDIA)創(chuàng)始人黃仁勛名字命名的定律“黃氏定律(Huang’s Law)”對(duì)AI性能的提升作出預(yù)測(cè),每10年GPU性能增長(zhǎng)1000倍。“未來(lái)GPT-4的參數(shù)規(guī)模或?qū)⑦_(dá)到數(shù)萬(wàn)億,至少需要上萬(wàn)塊的GPU,甚至連國(guó)家超算中心都無(wú)法滿足需求,建設(shè)新的智能計(jì)算平臺(tái)成為人工智能新的發(fā)展方向。”張?jiān)迫f(shuō)道。
像GPT-3就帶來(lái)了感知智能對(duì)超算的算力挑戰(zhàn)。從CPT-3到ChatGPT的技術(shù),實(shí)際上是“人工反饋(RLHF)訓(xùn)練機(jī)制+大數(shù)據(jù)+大算力”的集成。大模型帶來(lái)巨大的AI算力需求缺口,呼喚新型智能計(jì)算中心的加速構(gòu)建。
“為什么ChatGPT能從GPT-3演變過(guò)來(lái),這是關(guān)鍵,也是中國(guó)人工智能之路和美國(guó)人工智能之路的分歧點(diǎn)。”張?jiān)迫赋觯?ldquo;這兩年大模型國(guó)內(nèi)有人做,但是我們追求的是參數(shù)量,從千億級(jí)到萬(wàn)億級(jí)訓(xùn)練參數(shù)的快速躍進(jìn),但是智能沒有涌現(xiàn)。OpenAI走了另外一條路,利用人工反饋的訓(xùn)練機(jī)制,通過(guò)標(biāo)注、對(duì)齊高質(zhì)量數(shù)據(jù),最后把這條路走通了,用千億參數(shù)的大模型把通用智能挖掘出來(lái)了,這點(diǎn)值得反思。”
張?jiān)迫J(rèn)為,未來(lái)算力經(jīng)濟(jì)市場(chǎng)會(huì)有三類公司參加,將出現(xiàn)類似發(fā)電廠的算力工廠,尤其是在東數(shù)西算西部新能源發(fā)達(dá)地區(qū),而網(wǎng)絡(luò)通信公司可通過(guò)實(shí)施算網(wǎng)融合戰(zhàn)略轉(zhuǎn)型為算力供應(yīng)商,超算云公司、網(wǎng)絡(luò)通信公司甚至國(guó)家電網(wǎng)等分別從不同的技術(shù)途徑搶占算力服務(wù)市場(chǎng),究竟鹿死誰(shuí)手尚未可知。
他建議,一是要在現(xiàn)有大科學(xué)裝置基礎(chǔ)上,圍繞“東數(shù)西算”重大任務(wù)目標(biāo)增加建設(shè)一類算力網(wǎng)工程技術(shù)裝置;二是要成立國(guó)家算網(wǎng)管理機(jī)構(gòu)和專家委員會(huì),建設(shè)國(guó)家級(jí)算力調(diào)度和交易平臺(tái);三是在智算中心建設(shè)過(guò)程中,依據(jù)自有品牌核心器件成熟度和應(yīng)用效果,設(shè)置合理的核心器件采購(gòu)比例,扶植和拉動(dòng)本土算力設(shè)備的發(fā)展。