如今,云計(jì)算和IT采用的增長仍然持續(xù)不減。云計(jì)算服務(wù)提供商市場格局將由來自美國和中國的少數(shù)公司主導(dǎo),這些公司部署了公司擁有的超大型數(shù)據(jù)中心。
在可預(yù)見的將來,由于許多企業(yè)決定放棄擁有自己的數(shù)據(jù)中心,并將應(yīng)用程序遷移到云平臺(tái),這些少數(shù)公司將會(huì)占據(jù)云計(jì)算市場的大部分增長。圖1顯示了2020年的超大規(guī)模數(shù)據(jù)中心的預(yù)計(jì)增長,以及預(yù)期在這些數(shù)據(jù)中心駐留的服務(wù)器的百分比。到2020年,預(yù)計(jì)大規(guī)模客戶將會(huì)采用所有售出的服務(wù)器的47%。
對(duì)于諸如惠普和戴爾這樣的傳統(tǒng)硬件提供商來說,這種情況預(yù)示著更窄的客戶群,同時(shí)將擁有更高的技術(shù)敏銳度和更密切的關(guān)注底線。HPE和戴爾將看到他們?yōu)槌笠?guī)??蛻籼峁┑姆?wù)器超過了“無名”白盒供應(yīng)商,并可以更好地提供客戶需要的產(chǎn)品。標(biāo)準(zhǔn)的服務(wù)器配置并不再適合所有客戶。越來越多的人將開放式計(jì)算作為一種降低成本和提高效率的途徑。
新的網(wǎng)絡(luò)拓?fù)鋵槌笠?guī)模數(shù)據(jù)中心的南北向流量和東西向流量帶來更高的帶寬。 Facebook公司已經(jīng)公開了基于商品交換機(jī)設(shè)計(jì)的規(guī)范,并向全世界展示了軟件定義網(wǎng)絡(luò)(SDN)和網(wǎng)絡(luò)功能虛擬化(NFV)的諸多優(yōu)勢(shì)。
對(duì)于超大規(guī)模數(shù)據(jù)中心運(yùn)營商來說,電力輸送和冷卻新方法的創(chuàng)新使其設(shè)施中的機(jī)架功率密度得以提高,同時(shí)提高整體基礎(chǔ)設(shè)施的效率,從而產(chǎn)生極低的PUE。以下討論了電力基礎(chǔ)設(shè)施在使超大規(guī)模數(shù)據(jù)中心盡可能可靠和高效運(yùn)行方面發(fā)揮的作用。
誰是超大規(guī)模廠商?
當(dāng)今網(wǎng)絡(luò)上最強(qiáng)大的廠商名字是互聯(lián)網(wǎng)熱潮期間在20世紀(jì)80年代和90年代開始發(fā)展的超大規(guī)模廠商。微軟公司成功打造成了當(dāng)今超過900億美元的龐然大物,其產(chǎn)品從全球數(shù)據(jù)中心足跡推動(dòng)的操作系統(tǒng)和辦公軟件包轉(zhuǎn)向SaaS(Office 365)和PaaS(Azure)。亞馬遜公司于1994年開始從一家在線書商成為了一個(gè)價(jià)值1700億美元的電子商務(wù)巨頭,并且還成為全球規(guī)模最大的云計(jì)算服務(wù)提供商。
Facebook公司是全球最大的社交媒體企業(yè),在全球各地?fù)碛斜姸啻笮蛿?shù)據(jù)中心。阿里巴巴是中國規(guī)模最大的電子商務(wù)商,并且正在將其數(shù)據(jù)中心覆蓋范圍擴(kuò)展到國外。谷歌在20世紀(jì)90年代開始時(shí)是從一個(gè)研究項(xiàng)目發(fā)展起來,并迅速成長為互聯(lián)網(wǎng)上最大的搜索提供商。該公司也依賴多個(gè)地區(qū)的海量數(shù)據(jù)中心來提供用戶在搜索網(wǎng)絡(luò)時(shí)所期望的快速性能。其他大型且快速增長的超大規(guī)模數(shù)據(jù)中心運(yùn)營商還包括蘋果、騰訊、百度、eBay等。
大多數(shù)超大規(guī)模數(shù)據(jù)中心的建設(shè)者都擁有自己的基礎(chǔ)設(shè)施。超大規(guī)模數(shù)據(jù)中心運(yùn)營商原本采用HPE、Dell EMC、思科等公司制造的硬件,如今轉(zhuǎn)向采用臺(tái)灣和中國ODM廠商(如廣達(dá)、英業(yè)達(dá)、富士康、超微、浪潮等)提供的低成本、專用定制和“開放式”計(jì)算和網(wǎng)絡(luò)解決方案。
功率密度和冷卻對(duì)超大規(guī)模設(shè)計(jì)的影響
在過去的幾十年中,數(shù)據(jù)中心行業(yè)的機(jī)架功率密度與計(jì)算和存儲(chǔ)密度相應(yīng)地增長。如今在單一機(jī)架中的服務(wù)器和硬盤比以往任何時(shí)候都要多。而一個(gè)典型的IT機(jī)架的軸功率為1-3千瓦,如今20到40千瓦的負(fù)載在單個(gè)機(jī)柜中也是常見的。美國國家可再生能源實(shí)驗(yàn)室報(bào)告表明,每機(jī)架30千瓦的部署普遍存在。
谷歌公司的全球基礎(chǔ)設(shè)施負(fù)責(zé)人Joe Kava表示,該公司在2015年使用了5.7兆瓦的能源。其中數(shù)據(jù)中心的能耗占了絕大多數(shù),這也是谷歌公司為其云計(jì)算園區(qū)采購可再生能源獲得領(lǐng)先地位的原因。
基于英特爾、AMD、NVIDIA和ARM的最新芯片技術(shù)提供的新服務(wù)器每秒可提供更高的運(yùn)算速度和每瓦操作性能。與此同時(shí),數(shù)據(jù)中心房地產(chǎn)的成本在大多數(shù)市場上漲,導(dǎo)致運(yùn)營商尋求更高的IT機(jī)柜來更有效地利用空間。有的運(yùn)營商甚至采用一個(gè)裝滿IT設(shè)備的高大圓柱,但密集的部署將會(huì)產(chǎn)生大量散熱問題,數(shù)據(jù)中心架構(gòu)師必須采用空氣或水作為冷卻介質(zhì)。有一些數(shù)據(jù)中心設(shè)施同時(shí)部署這兩種冷卻方式。
高效的空氣冷卻措施需要遵守各種設(shè)計(jì)原則:
•更改設(shè)備的部署方向,以創(chuàng)建自然的熱通道和冷通道。
•在空置的機(jī)架空間使用盲板以確保冷空氣不會(huì)泄漏到熱通道中。
•實(shí)行熱通道或冷通道遏制。
•自然對(duì)流可以通過精心設(shè)計(jì)的設(shè)施流動(dòng)空氣,冷空氣下沉到地板上,熱空氣上升到天花板。因此,對(duì)冷通道采用高架冷空氣設(shè)計(jì),并在機(jī)架背面提升天花板或煙囪,以驅(qū)動(dòng)空氣通過IT系統(tǒng)。
絕熱冷卻依賴于通過體積膨脹引起的氣壓變化來減少熱量的過程。在數(shù)據(jù)中心中使用絕熱過程以促進(jìn)有效利用水和電的“自然冷卻”方法。
液體冷卻非常適合機(jī)柜功率和熱密度超過以合理速度流動(dòng)的空氣的冷卻能力(高達(dá)幾百CFM)的應(yīng)用。液體冷卻有多種形式:冷卻門、冷凍擱板、直接噴霧冷卻到芯片上等等。 “在高性能計(jì)算領(lǐng)域,其制冷方案都將轉(zhuǎn)向液體冷卻。”Eurotech公司技術(shù)總監(jiān)Paul Arts說,“在我們的設(shè)想中,擴(kuò)張是唯一的途徑。我們認(rèn)為這是新一代高性能計(jì)算的開始,擁有巨大的力量。我們正處于革命的開始階段。”
最終,冷卻決策將取決于數(shù)據(jù)中心將運(yùn)行的參數(shù):維護(hù)/維修的頻率、可用技術(shù)人員的數(shù)量、維修的允許時(shí)間、期望的功率效率水平等等。
推動(dòng)超大規(guī)模數(shù)據(jù)中心的未來需求
許多論文記錄了數(shù)據(jù)中心行業(yè)在21世紀(jì)初日益增長的電力需求。如果摩爾定律和服務(wù)器虛擬化對(duì)行業(yè)沒有幫助,電力需求的增長可能會(huì)超過美國總發(fā)電量的10%。相反,IT行業(yè)在監(jiān)管自身方面發(fā)揮了領(lǐng)導(dǎo)作用,使IT系統(tǒng)更加節(jié)能。英特爾公司和AMD公司致力于減少服務(wù)器芯片(CPU)的功耗,并且隨著每代CPU的產(chǎn)生,他們改進(jìn)了每個(gè)周期的指令,并減少了每條指令的功率,同時(shí)保持在給定的功率范圍內(nèi)。
展望未來,許多超大規(guī)模數(shù)據(jù)中心運(yùn)營商正致力于為其數(shù)據(jù)中心設(shè)施提供可再生能源。首先通過購買可再生能源證書和電力抵消(從當(dāng)?shù)毓檬聵I(yè)購買水力發(fā)電等綠色能源的電能),現(xiàn)在許多超大規(guī)模數(shù)據(jù)中心都使用燃料電池或太陽能陣列的電能。蘋果公司和Facebook公司已經(jīng)有多個(gè)數(shù)據(jù)中心采用太陽能的電力。微軟公司在懷俄明州夏延擁有沼氣發(fā)電廠,并從Pilot Hill Wind購買風(fēng)力發(fā)電,并在全球各地建設(shè)大量太陽能發(fā)電設(shè)施。亞馬遜公司在德克薩斯州建立了一個(gè)253兆瓦的風(fēng)力發(fā)電場,而谷歌公司所有的數(shù)據(jù)中心在2017年全部采可再生能源。
“我們是全球最大的可再生能源企業(yè)購買者。”谷歌公司技術(shù)基礎(chǔ)設(shè)施高級(jí)副總裁Joe Kava說。
IT行業(yè)也有許多關(guān)于最適合超大規(guī)模數(shù)據(jù)中心的電力基礎(chǔ)設(shè)施的建議。在早期,F(xiàn)acebook公司的機(jī)架設(shè)備采用了480V/277V交流電源,而機(jī)架上IT負(fù)載采用12V 直流電源。谷歌公司提出了采用48V直流電為服務(wù)器供電,直接轉(zhuǎn)換負(fù)載點(diǎn)電源以48V運(yùn)行到主板運(yùn)行CPU、內(nèi)存等所需的工作電壓和電流。在谷歌公司實(shí)施的項(xiàng)目中,從電源到機(jī)架的電力為480/277的交流電(或400V/230V交流電),通過三相整流器將交流電轉(zhuǎn)換為直流電為機(jī)架設(shè)備供電。微軟公司最近的開放計(jì)算項(xiàng)目采用了480/277V 交流電源為機(jī)架設(shè)備供電,而服務(wù)器采用277V電源,服務(wù)器機(jī)箱中帶有兩個(gè)三相電源,并支持與機(jī)架服務(wù)器配套的基本(非智能)PDU。
對(duì)于那些尋求采用發(fā)電設(shè)備運(yùn)行數(shù)據(jù)中心的公司來說,在現(xiàn)場生產(chǎn)直流電源并將其輸送到機(jī)架上是很有意義的。在這種情況下,將380V直流電源引入機(jī)架,并通過DC-DC轉(zhuǎn)換器轉(zhuǎn)換到48V是一種選擇?;蛘呱踔量梢詫?8V直流電源輸入到機(jī)架上,這取決于與電源的距離。
每個(gè)數(shù)據(jù)中心都是為了實(shí)現(xiàn)功能、等待時(shí)間、正常運(yùn)行時(shí)間、成本和價(jià)值目標(biāo)而構(gòu)建的。電力傳輸基礎(chǔ)設(shè)施的選擇與這些目標(biāo)密切相關(guān),并由數(shù)據(jù)中心運(yùn)行的軟件棧的穩(wěn)健性和靈活性所緩解。未來的超大規(guī)模數(shù)據(jù)中心可能會(huì)從虛擬機(jī)遷移到容器,并提供“無服務(wù)器”計(jì)算模式。而人們有關(guān)數(shù)據(jù)中心采用交流電源和直流電源的爭論將會(huì)持續(xù)下去,而部署機(jī)架上的燃料電池等新技術(shù)也將越來越受歡迎,為數(shù)據(jù)中心業(yè)主和運(yùn)營商提供可再生能源以支持超大規(guī)模數(shù)據(jù)中心將成為一種強(qiáng)制性要求。人們需要了解有關(guān)超大規(guī)模計(jì)算的更多信息。