讓電腦加速100倍!這家英國(guó)創(chuàng)業(yè)團(tuán)隊(duì)的芯片新思路

網(wǎng)易智能
半導(dǎo)體行業(yè)目前正在討論摩爾定律的可持續(xù)性問(wèn)題。摩爾定律是上世紀(jì)60年代的一項(xiàng)觀察發(fā)現(xiàn),一塊芯片上的晶體管數(shù)量將會(huì)每?jī)赡攴环?

圖1:英國(guó)人工智能芯片硬件設(shè)計(jì)初創(chuàng)公司Graphcore推出的IPU加速卡

與其他數(shù)字處理軟件不同的是,英國(guó)人工智能(AI)芯片硬件設(shè)計(jì)初創(chuàng)公司Graphcore專(zhuān)為電腦開(kāi)發(fā)“大腦”,而且這種大腦更擅長(zhǎng)猜測(cè)。

作為Graphcore首席技術(shù)官,西蒙·諾爾斯(Simon Knowles)面帶微笑地在白板上勾畫(huà)著自己對(duì)機(jī)器學(xué)習(xí)未來(lái)的愿景。他用黑色記號(hào)筆在人類(lèi)大腦的“節(jié)點(diǎn)”上打點(diǎn)并繪制圖表,這些節(jié)點(diǎn)通常負(fù)責(zé)大腦中“沉思或思考的部分”。他的初創(chuàng)公司正試圖在下一代計(jì)算機(jī)處理器中模擬這些神經(jīng)元和突觸,該公司押注下一代計(jì)算機(jī)處理器能夠幫助“智能機(jī)械化”。

AI通常被認(rèn)為是挖掘大量數(shù)據(jù)集的復(fù)雜軟件,但諾爾斯及其聯(lián)合創(chuàng)始人、Graphcore首席執(zhí)行官奈杰爾·圖恩(Nigel Toon)認(rèn)為,運(yùn)行該軟件的電腦仍然存在更大的障礙。坐在位于英國(guó)港口城市布里斯托爾通風(fēng)良好的辦公室里,諾爾斯和圖恩表示,問(wèn)題在于芯片本身(基于它們的功能,可分為中央處理單元CPU或圖形處理單元GPU),它們并沒(méi)有以任何可識(shí)別的類(lèi)人方式進(jìn)行“思考”。

人類(lèi)的大腦利用直覺(jué)來(lái)簡(jiǎn)化某些問(wèn)題,比如識(shí)別一個(gè)正在接近的朋友,而計(jì)算機(jī)可能會(huì)嘗試分析那個(gè)人臉部的每個(gè)像素,并將其與包含數(shù)十億張圖像的數(shù)據(jù)庫(kù)進(jìn)行比較,然后才會(huì)試圖打招呼。當(dāng)計(jì)算機(jī)主要充當(dāng)計(jì)算器時(shí),這種精確度是有意義的,但對(duì)AI來(lái)說(shuō),它的效率卻非常低下,需要消耗大量能量來(lái)處理所有相關(guān)數(shù)據(jù)。

2016年,諾爾斯和更有商業(yè)頭腦的圖恩創(chuàng)建了Graphcore,他們把“不那么精確”的計(jì)算作為芯片的核心,稱(chēng)之為智能處理單元(IPU)。諾爾斯表示:“你大腦中的概念相當(dāng)模糊。它實(shí)際上是非常近似的數(shù)據(jù)點(diǎn)的集合,使你可以產(chǎn)生精確的想法。”諾爾斯的英語(yǔ)口音和經(jīng)常發(fā)出咯咯的笑聲,讓人把他比作《哈利·波特》中霍格沃茨學(xué)院的院長(zhǎng)。

關(guān)于人類(lèi)智慧為何會(huì)以這種方式形成,有各種各樣的理論。但對(duì)于機(jī)器學(xué)習(xí)系統(tǒng)來(lái)說(shuō),它們需要處理龐大且不規(guī)則無(wú)組織的信息結(jié)構(gòu)(即圖形),為此建立專(zhuān)門(mén)用于連接類(lèi)似大腦節(jié)點(diǎn)數(shù)據(jù)點(diǎn)的芯片,可能是AI繼續(xù)演變的關(guān)鍵。諾爾斯說(shuō):“我們想建造一臺(tái)高性能的計(jì)算機(jī),它可以非常不精確的方式處理數(shù)字。”

換句話說(shuō),Graphcore正在為電腦開(kāi)發(fā)“大腦”,如果其聯(lián)合創(chuàng)始人的想法是對(duì)的,它將能夠更像人類(lèi)那樣處理信息,而不是通過(guò)大規(guī)模的數(shù)字運(yùn)算來(lái)偽造信息。圖恩解釋稱(chēng):“幾十年來(lái),我們始終在步步為營(yíng)地告訴機(jī)器該做什么,但現(xiàn)在我們不再這樣做了。”他描述了Graphcore的芯片是如何教機(jī)器學(xué)習(xí)的:“這就像回到了20世紀(jì)70年代,那時(shí)微處理器剛剛問(wèn)世,我們需要徹底改造英特爾。”

投資者赫爾曼·豪澤(Hermann Hauser)是Arm Holdings Plc的聯(lián)合創(chuàng)始人,該公司控制著應(yīng)用最廣泛的芯片設(shè)計(jì)工作。豪澤押注諾爾斯和圖恩的IPU將掀起下一波計(jì)算浪潮,他說(shuō):“這在計(jì)算機(jī)歷史上只發(fā)生過(guò)三次,分別是20世紀(jì)70年代的CPU、20世紀(jì)90年代的GPU,Graphcore的IPU則是第三次。”

圖2:Graphcore辦公室的IPU服務(wù)器機(jī)架

Graphcore起源于豪澤于2011年和2012年在劍橋大學(xué)皇家學(xué)會(huì)組織的一系列研討會(huì),皇家學(xué)會(huì)是艾薩克·牛頓(Isaac Newton)和查爾斯·達(dá)爾文(Charles Darwin)的校友組成的科學(xué)團(tuán)體。在國(guó)王學(xué)院的豪華餐廳里,AI專(zhuān)家、神經(jīng)學(xué)家、統(tǒng)計(jì)學(xué)家和動(dòng)物學(xué)家圍繞著先進(jìn)計(jì)算技術(shù)對(duì)社會(huì)的影響展開(kāi)了辯論。

豪澤認(rèn)為,諾爾斯“有個(gè)地球般大小的大腦”,他在這個(gè)“象牙塔”里感到不自在,盡管他從劍橋大學(xué)開(kāi)始的職業(yè)生涯。20世紀(jì)80年代畢業(yè)后,諾爾斯在英國(guó)政府的一個(gè)研究實(shí)驗(yàn)室學(xué)習(xí)早期的神經(jīng)網(wǎng)絡(luò)。之后,他與人合作創(chuàng)辦了無(wú)線處理器初創(chuàng)企業(yè)Element 14,并于2000年以6.4億美元的價(jià)格將其賣(mài)給了博通公司(Broadcom)。

不久之后,諾爾斯和有半導(dǎo)體創(chuàng)業(yè)經(jīng)驗(yàn)的圖恩第一次合作。2002年,他們創(chuàng)建了移動(dòng)芯片制造商Icera,并在不到10年后以4.36億美元的價(jià)格賣(mài)給了英偉達(dá)公司(Nvidia)。當(dāng)時(shí)兩人還沒(méi)有準(zhǔn)備好退休,圖恩說(shuō):“我們都不擅長(zhǎng)打高爾夫球。”諾爾斯去參加劍橋大學(xué)的系列講座時(shí),他們正在討論其他的想法。諾爾斯回憶說(shuō):“我是房間里那個(gè)邋遢的家伙,戴著一頂煙囪帽,只想做些東西。你知道:‘別管熱力學(xué)了,我想做個(gè)蒸汽機(jī)!’”

當(dāng)劍橋大學(xué)信息工程學(xué)教授史蒂夫·楊(Steve Young)做了一個(gè)關(guān)于計(jì)算對(duì)話系統(tǒng)極限的演講,諾爾斯不斷地向他提出有關(guān)能源效率的問(wèn)題。史蒂夫·楊后來(lái)向蘋(píng)果公司出售了語(yǔ)音處理服務(wù),該服務(wù)現(xiàn)在用于Siri。諾爾斯表示:“我問(wèn)他在算法中使用的數(shù)字精度,這在史蒂夫看來(lái)有些離題了。”但他強(qiáng)調(diào),在硅材料中,“數(shù)字的精度作為能量的決定因素非常關(guān)鍵”。

幾天后,史蒂夫·楊給諾爾斯發(fā)了一封電子郵件,說(shuō)他的學(xué)生調(diào)查了這件事,發(fā)現(xiàn)他們每次計(jì)算都使用了64位數(shù)據(jù)。他們意識(shí)到,他們可以像諾爾斯所建議的那樣,用8位數(shù)據(jù)執(zhí)行同樣的函數(shù),只是運(yùn)算不那么精確。當(dāng)計(jì)算機(jī)有更少的數(shù)學(xué)任務(wù)要做時(shí),它可以利用節(jié)省下來(lái)的能源來(lái)處理更多的數(shù)字。這有點(diǎn)像人類(lèi)大腦從計(jì)算某家餐廳的GPS坐標(biāo)轉(zhuǎn)換到僅僅記住其名字和鄰居。

諾爾斯說(shuō):“如果我們制造出一種更適合這種工作的處理器,我們可以將性能提高一千倍。”史蒂夫·楊和其他人對(duì)此印象深刻,諾爾斯和圖恩決定他們必須創(chuàng)建Graphcore。早在2013年,他們就開(kāi)始籌集資金來(lái)開(kāi)發(fā)這個(gè)想法,并在2016年向世界展示了這家公司。

半導(dǎo)體行業(yè)目前正在討論摩爾定律的可持續(xù)性問(wèn)題。摩爾定律是上世紀(jì)60年代的一項(xiàng)觀察發(fā)現(xiàn),一塊芯片上的晶體管數(shù)量將會(huì)每?jī)赡攴环?。Graphcore的領(lǐng)導(dǎo)者們關(guān)心的是個(gè)相關(guān)概念,叫做丹尼德量表(Dennard scale),它指出隨著晶體管密度的提高,功率需求將保持不變。

但這一原理已不再適用,現(xiàn)在在芯片中添加更多的晶體管意味著芯片將變得更熱、耗能更高。為了緩解這個(gè)問(wèn)題,許多芯片制造商自己設(shè)計(jì)他們的產(chǎn)品,這樣他們就不會(huì)每次都耗盡所有的處理能力,只運(yùn)行支持應(yīng)用程序所必需的部件。在芯片上,這些一度未使用的區(qū)域被稱(chēng)為“暗硅”。

諾爾斯和圖恩表示,除非電路能從根本上被重新設(shè)計(jì)以提高效率,否則高溫問(wèn)題將成為阻礙手機(jī)和筆記本電腦在未來(lái)幾年變得更快的重大障礙。負(fù)責(zé)Graphcore芯片架構(gòu)的丹尼爾·威爾金森(Daniel Wilkinson)表示:“我需要從零做起,這種情況在芯片設(shè)計(jì)領(lǐng)域從未發(fā)生過(guò)。”

這不禁向這個(gè)由幾十名工程師組成的團(tuán)隊(duì)發(fā)起挑戰(zhàn),要求他們?cè)O(shè)計(jì)一種芯片,既能同時(shí)利用所有的處理能力,又比最先進(jìn)的GPU功耗更少。硅的一個(gè)較大的能量壓力涉及移動(dòng)和檢索數(shù)據(jù),但從歷史上看,處理器與內(nèi)存是分開(kāi)的。諾爾斯說(shuō),在這些組件之間來(lái)回傳輸數(shù)據(jù)“非常耗費(fèi)能源”。Graphcore開(kāi)始設(shè)計(jì)諾爾斯所謂的“同質(zhì)結(jié)構(gòu)”,即將芯片的邏輯與內(nèi)存“混合”在一起,這樣它就不需要花費(fèi)太多的能量來(lái)將數(shù)據(jù)傳輸?shù)狡渌布稀?/p>

在過(guò)去的三年多時(shí)間里,諾爾斯和圖恩模擬了數(shù)百種芯片布局的計(jì)算機(jī)測(cè)試方法,最終確定了包含1216個(gè)處理器核心的設(shè)計(jì)方案,諾爾斯將其稱(chēng)為“許多分散能源的處理器小島”。最終的IPU于2018年首次亮相,這是看起來(lái)非常時(shí)尚的微型芯片,擁有近240億個(gè)晶體管,能夠以GPU的一小部分功率訪問(wèn)數(shù)據(jù)。圖恩站在布里斯托爾總部一間凌亂的電子實(shí)驗(yàn)室里,手指滑過(guò)IPU鏡面般的表面說(shuō)道:“每塊芯片的功率都是120瓦,與明亮的白熾燈泡差不多。”

為了測(cè)試這種芯片的原型,研究團(tuán)隊(duì)給它提供了標(biāo)準(zhǔn)的數(shù)據(jù)訓(xùn)練模型,其中包含了數(shù)百萬(wàn)張標(biāo)有普通物體(水果、動(dòng)物、汽車(chē))標(biāo)簽的圖像。一位工程師隨后向IPU查詢(xún)了他自己的貓宙斯(Zeus)的照片,不到一個(gè)小時(shí),計(jì)算機(jī)不僅正確地識(shí)別出了它,而且正確地描述了宙斯的外貌。諾爾斯說(shuō):“IPU能夠認(rèn)出它是一只斑貓。”

自從第一次測(cè)試以來(lái),IPU已經(jīng)加快了速度,現(xiàn)在每秒可以識(shí)別一萬(wàn)多幅圖像。該芯片的目標(biāo)是能夠消化和確定復(fù)雜得多的數(shù)據(jù)模型,使系統(tǒng)能夠在更基本的層面上理解什么是貓。諾爾斯稱(chēng):“我們不會(huì)告訴機(jī)器該做什么,只是描述了它應(yīng)該如何學(xué)習(xí),并給它提供了大量例證和數(shù)據(jù),它實(shí)際上并不需要監(jiān)督,機(jī)器正在探尋自己該做什么。”

圖3:Graphcore的第一款芯片Colossus

在Graphcore公司辦公室的五樓,笨重的工業(yè)空調(diào)將冷空氣吹進(jìn)公司的數(shù)據(jù)服務(wù)器室,前后晃動(dòng)著的窗簾,讓布里斯托爾五月中旬不同尋常的陽(yáng)光照射進(jìn)來(lái)。盡管這些芯片安裝在冰箱大小的盒式服務(wù)器上,非常節(jié)能,但這些機(jī)器仍然會(huì)產(chǎn)生大量的熱量。這些IPU服務(wù)器機(jī)架足夠執(zhí)行64千萬(wàn)億次浮點(diǎn)運(yùn)算,相當(dāng)于183000部iPhone X以最高速度同時(shí)運(yùn)行。諾爾斯和圖恩以世界上第一臺(tái)電子可編程計(jì)算機(jī)的名字給他們的IPU取了個(gè)綽號(hào)“Colossus”,這臺(tái)計(jì)算機(jī)是英國(guó)政府在二戰(zhàn)期間為破解來(lái)自德國(guó)的加密信息而開(kāi)發(fā)的。

Graphcore已從包括寶馬(BMW)、微軟(Microsoft)和三星(Samsung)在內(nèi)的投資者那里籌集了3.28億美元資金,該公司去年12月份的估值為17億美元。Graphcore以簽署有保密協(xié)議為由,拒絕就其芯片的具體應(yīng)用置評(píng),但考慮到其投資者,許多用例似乎已經(jīng)顯而易見(jiàn),比如自動(dòng)駕駛汽車(chē)、類(lèi)似Siri的語(yǔ)音助手和云服務(wù)器農(nóng)場(chǎng)等。但是諾爾斯對(duì)改變?nèi)诵缘膽?yīng)用最感興趣,比如IPU可能對(duì)科學(xué)家在氣候變化和醫(yī)學(xué)研究中需要的復(fù)雜分析產(chǎn)生更大影響。

為了幫助大公司客戶(hù)解決如何構(gòu)建下一代計(jì)算機(jī)以正確使用芯片的問(wèn)題,Graphcore提供了服務(wù)器藍(lán)圖,并使用免費(fèi)軟件工具對(duì)其產(chǎn)品進(jìn)行打包。圖恩稱(chēng):“我們會(huì)給你電腦設(shè)計(jì)的配方,然后賣(mài)給你配料。”IPU依賴(lài)于所謂的“并行計(jì)算”概念。編寫(xiě)程序的基本思想是需要為每個(gè)處理器設(shè)定功能,但隨著芯片內(nèi)置處理器的激增(大型Graphcore芯片包括大約500萬(wàn)個(gè)處理器內(nèi)核,每次可以運(yùn)行近3000萬(wàn)個(gè)程序),這個(gè)編碼任務(wù)已經(jīng)取代了人工編寫(xiě)程序,這意味著處理器必須自動(dòng)編程才能獨(dú)立執(zhí)行。

用外行人的話說(shuō),Graphcore將龐大的計(jì)算任務(wù)分割成一個(gè)個(gè)小數(shù)據(jù)問(wèn)題,每個(gè)問(wèn)題都在這些“處理器小島”上單獨(dú)處理,然后像海軍陸戰(zhàn)隊(duì)軍樂(lè)隊(duì)一樣同步,在最高效的時(shí)刻分享它們學(xué)到的東西。

寶馬風(fēng)險(xiǎn)投資部門(mén)的首席投資家托拜厄斯·揚(yáng)(Tobias Jahn)設(shè)想將Graphcore芯片應(yīng)用于該公司的數(shù)據(jù)中心,或許還包括其汽車(chē)中。他說(shuō):“寶馬有意讓Graphcore成為一家大規(guī)模的全球硅供應(yīng)商。”自動(dòng)駕駛汽車(chē)必須立即執(zhí)行超多的關(guān)鍵任務(wù),這使得它們成為IPU之類(lèi)產(chǎn)品的關(guān)鍵市場(chǎng),因?yàn)樵谠朴?jì)算中工作往往會(huì)有延遲。Arm Holdings聯(lián)合創(chuàng)始人豪澤(Hauser)估計(jì),每輛無(wú)人駕駛汽車(chē)可能需要兩個(gè)IPU。Graphcore表示,2019年其收入有望達(dá)到5000萬(wàn)美元。

大牌競(jìng)爭(zhēng)對(duì)手也紛紛涌入這個(gè)領(lǐng)域。電動(dòng)汽車(chē)制造商特斯拉公司最近為自己的AI芯片申請(qǐng)了專(zhuān)利,谷歌去年推出了一款專(zhuān)為機(jī)器學(xué)習(xí)設(shè)計(jì)的微處理器。英偉達(dá)始終在改進(jìn)其主要的GPU芯片設(shè)計(jì),使其變得更不精確卻更高效,這更像Graphcore的做法。

市場(chǎng)研究機(jī)構(gòu)Gartner 分析師艾倫·普里斯特利(Alan Priestley)表示:“其他所有公司都在敲英偉達(dá)的門(mén)。Graphcore擁有很大優(yōu)勢(shì),但與英偉達(dá)的市場(chǎng)份額相比,它仍然是個(gè)非常小的競(jìng)爭(zhēng)對(duì)手。因此,盡管他們的IPU在這些工作負(fù)載上可能優(yōu)于英偉達(dá)的GPU,但他們面臨的風(fēng)險(xiǎn)是,客戶(hù)往往選擇‘足夠好’即可,而不是‘卓越’。”

如果像承諾的那樣,IPU能使機(jī)器運(yùn)行起來(lái)比今天的電腦強(qiáng)大100倍,其面臨的另一個(gè)重大挑戰(zhàn)將是道德困境。圖恩和諾爾斯對(duì)這些危險(xiǎn)保持警惕,尤其是這些技術(shù)如何可能被濫用于武器和監(jiān)控。不過(guò),他們說(shuō),最終需要政府來(lái)設(shè)定限制。諾爾斯指出:“機(jī)械動(dòng)力幫助我們發(fā)明了飛機(jī)和汽車(chē),但它也幫助發(fā)明了坦克。隨著時(shí)間的推移,社會(huì)將不得不在善與惡之間尋找平衡。”

目前,Graphcore專(zhuān)注于開(kāi)發(fā)更多的軟件,讓客戶(hù)看到IPU的強(qiáng)大功能,同時(shí)將業(yè)務(wù)拓展到最終上市的程度。對(duì)于每個(gè)重大的里程碑,該公司都會(huì)開(kāi)瓶香檳慶祝,比如2017年末融資5000萬(wàn)美元和2018年實(shí)現(xiàn)1000萬(wàn)美元銷(xiāo)售訂單。這種增長(zhǎng)的跡象在Graphcore的辦公室里隨處可見(jiàn),香檳的瓶子也越來(lái)越大。

諾爾斯圖恩總是從Pol Roger寶祿爵香檳品牌開(kāi)始,他們認(rèn)為這種飲品代表他們的驕傲,他們可能會(huì)幫助英國(guó)誕生首家科技巨頭。諾爾斯說(shuō):“從Pol Roger開(kāi)始,也從Pol Roger結(jié)束。”諾爾斯最近喝光了9升大酒瓶的香檳,他說(shuō):“當(dāng)你首次公開(kāi)募股(IPO)時(shí),你會(huì)打開(kāi)最大瓶的香檳。” (選自:Bloomberg 作者:Dylan Jackson 編譯:網(wǎng)易智能 參與:小?。?/p>

THEEND

最新評(píng)論(評(píng)論僅代表用戶(hù)觀點(diǎn))

更多
暫無(wú)評(píng)論