區(qū)塊鏈迫在眉睫的存儲(chǔ)問(wèn)題 迅雷鏈?zhǔn)沁@么解決的

Yesky天極新聞
近日,在迅雷鏈技術(shù)沙龍上海站上,迅雷鏈底層研發(fā)工程師張小剛分享了迅雷鏈對(duì)此問(wèn)題的解決方案,他表示,通過(guò)冗余編碼和共享計(jì)算技術(shù),能夠有效解決大數(shù)據(jù)的上鏈難題,由此掃平區(qū)塊鏈技術(shù)商用上的一大障礙。

這是目前困擾區(qū)塊鏈應(yīng)用落地的主要難題之一,對(duì)此業(yè)內(nèi)不少技術(shù)團(tuán)隊(duì),都在進(jìn)行各種嘗試,以期找出一種能夠?qū)⒋篌w積文件上鏈保存的妥善方法。

11月24日,在迅雷鏈技術(shù)沙龍上海站上,迅雷鏈底層研發(fā)工程師張小剛分享了迅雷鏈對(duì)此問(wèn)題的解決方案,他表示,通過(guò)冗余編碼和共享計(jì)算技術(shù),能夠有效解決大數(shù)據(jù)的上鏈難題,由此掃平區(qū)塊鏈技術(shù)商用上的一大障礙。

區(qū)塊鏈存儲(chǔ)痛點(diǎn):價(jià)格貴,容量小

數(shù)據(jù)存儲(chǔ)在鏈上并不困難,目前基本所有的區(qū)塊鏈主鏈都可以實(shí)現(xiàn)數(shù)據(jù)存放。真正的問(wèn)題是,數(shù)據(jù)的存儲(chǔ)成本極其昂貴,比如以太坊上,存放1MB數(shù)據(jù)需要花費(fèi)大約3.76ETH,即便按目前市價(jià)來(lái)算,也接近3000元。EOS上更是如此,曾有人估算,在EOS上開(kāi)發(fā)一個(gè)DAPP,光購(gòu)買(mǎi)內(nèi)存的費(fèi)用就要幾百萬(wàn)元之巨。顯然,如此高的價(jià)格,在實(shí)際商用中根本無(wú)法接受。

此外,現(xiàn)有的主流區(qū)塊鏈上可保存的數(shù)據(jù)量其實(shí)并不大,這是由于傳統(tǒng)區(qū)塊鏈?zhǔn)菃螜C(jī)存儲(chǔ)架構(gòu),而數(shù)據(jù)存儲(chǔ)容量會(huì)受到單機(jī)存儲(chǔ)上限的限制所致。張小剛表示,截止2018年5月,比特幣的一個(gè)完整節(jié)點(diǎn)的數(shù)據(jù)存儲(chǔ)達(dá)到了210G,而以太坊的數(shù)據(jù)存儲(chǔ)達(dá)到了1T。這種水平已經(jīng)讓很多普通用戶(hù),無(wú)法運(yùn)行一個(gè)全量的以太坊節(jié)點(diǎn)了。

如果放開(kāi)商業(yè)化應(yīng)用數(shù)據(jù)上鏈,數(shù)據(jù)存儲(chǔ)的增長(zhǎng)將非常迅猛,遠(yuǎn)超當(dāng)前數(shù)據(jù)體積,以目前的技術(shù)架構(gòu),基本上不可能滿(mǎn)足實(shí)際商用的數(shù)據(jù)上鏈需求。

成本高,容量小,成為目前區(qū)塊鏈數(shù)據(jù)存儲(chǔ)所面臨的主要難題,如果要實(shí)現(xiàn)商用,解決存儲(chǔ)問(wèn)題首當(dāng)其沖。

迅雷鏈的解決方案

據(jù)張小剛介紹,迅雷鏈對(duì)數(shù)據(jù)上鏈保存的解決方案分3步。首先是打破了傳統(tǒng)區(qū)塊鏈中,所有節(jié)點(diǎn)全部保存同樣數(shù)據(jù)的做法,取而代之以新的分區(qū)模式。

迅雷鏈采用的是獨(dú)創(chuàng)的同構(gòu)多鏈架構(gòu),本身可以進(jìn)行分區(qū),且保證每個(gè)分區(qū)結(jié)構(gòu)完全相同。分區(qū)之后,將不同的分區(qū),交給不同的節(jié)點(diǎn)集群來(lái)保存,這樣單個(gè)節(jié)點(diǎn)保存的數(shù)據(jù)量就大大減小,有效降低了單節(jié)點(diǎn)的存儲(chǔ)壓力。

如果分區(qū)需要更高的性能或者存儲(chǔ)達(dá)到了閾值,則可以對(duì)分區(qū)進(jìn)行平滑擴(kuò)鏈,也就是將一個(gè)分區(qū)劃分出更多的分區(qū),這樣既提高性能又減緩存儲(chǔ)增長(zhǎng)。而迅雷鏈的節(jié)點(diǎn)來(lái)自于共享計(jì)算所提供的150萬(wàn)+個(gè)人節(jié)點(diǎn),如此龐大的數(shù)量足以支撐起足夠多的分區(qū)存儲(chǔ)需求。

其次,就是在行業(yè)內(nèi)引起重大反響的迅雷鏈文件系統(tǒng),即TCFS。用戶(hù)將文件存儲(chǔ)在TCFS中,TCFS會(huì)計(jì)算文件的摘要返回一個(gè)hash值,hash值進(jìn)行上鏈,從而一個(gè)大體積的文件數(shù)據(jù),也能實(shí)現(xiàn)上鏈的記錄。

另一方面TCFS要保證文件存儲(chǔ)的安全和可靠。它將文件經(jīng)過(guò)冗余編碼分成若干片,分別保存在不同節(jié)點(diǎn)上,讀取的時(shí)候,只要把部分切片組合到一起,就能還原出整個(gè)原文件,由此保證了即便在有節(jié)點(diǎn)不在線的情況下,僅憑其余在線節(jié)點(diǎn),也能還原出整個(gè)文件。同時(shí),任何一個(gè)單一節(jié)點(diǎn),看到的都是文件碎片,無(wú)法還原出其真實(shí)意義,保證了安全性。

此外張小剛還透露,目前迅雷鏈正在將底層的存儲(chǔ)升級(jí)為可插拔的插件化存儲(chǔ)架構(gòu),節(jié)點(diǎn)可以根據(jù)自身場(chǎng)景選擇不同的底層存儲(chǔ)架構(gòu),除了原生支持的levelDB存儲(chǔ)外,后續(xù)還會(huì)有新的存儲(chǔ)解決方案陸續(xù)支持。

通過(guò)這三步技術(shù)上的創(chuàng)新,迅雷鏈目前已能夠較為妥善地處理大數(shù)據(jù)、大文件上鏈保存這一難題。分享最后,張小剛表示,迅雷鏈對(duì)所有技術(shù)問(wèn)題的解決,都是本著如何讓開(kāi)發(fā)者更好、更方便地開(kāi)發(fā)區(qū)塊鏈應(yīng)用為出發(fā)點(diǎn),存儲(chǔ)解決方案也不例外。迅雷鏈希望能夠通過(guò)對(duì)存儲(chǔ)技術(shù)的創(chuàng)新,讓區(qū)塊鏈開(kāi)發(fā)者做出更豐富、優(yōu)秀的DAPP,并早日實(shí)現(xiàn)區(qū)塊鏈技術(shù)的商用落地。

THEEND

最新評(píng)論(評(píng)論僅代表用戶(hù)觀點(diǎn))

更多
暫無(wú)評(píng)論