背景
DeFi、GameFi等去中心化應用的蓬勃發展,極大地增加了對低交易費用的高性能區塊鏈的需求。然而,構建高性能區塊鏈的一個關鍵挑戰是存儲爆炸。下圖是取自Etherscan的圖表,它說明了一個以太坊全節點的區塊鏈數據大小。
從圖中我們可以看出,節點的鏈數據規模穩步增長,現在已經達到~9TB。由于去中心化區塊鏈的一個目標是允許普通配置的計算機運行節點,因此在普通配置的計算機上強制要求9TB+存儲會難以達到。
分解存儲開銷
如果我們進一步分析存儲使用情況,我們可以發現區塊數據只占了約300GB的數據,這一數字遠小于9TB。那么剩下的8.7TB數據從何而來呢?
實際上,存檔節點執行所有塊并保留所有歷史數據,包括:
區塊
狀態
交易收據
這其中,狀態是這8.7TB的主要組成部分。所以有時,我們將存儲爆炸稱為“狀態爆炸”。但是為什狀態會如此之大?
什么是以太坊狀態?
以太坊狀態是一個MerklePatrica樹,其中
動態 | 西班牙銀行Bankia將推出旨在減少溫室氣體排放的區塊鏈項目:金色財經報道,西班牙銀行Bankia將推出一個旨在減少溫室氣體排放的區塊鏈項目,將使有興趣抵消其碳足跡的代理商能夠獲得某些項目產生的二氧化碳信用額。根據該機構發布的信息,這是一個與Aenor和Everis合作開發的基于區塊鏈技術的市場型平臺。[2019/12/4]
葉子節點是地址(0x...)=>帳戶的映射,其中帳戶存儲與地址關聯的余額、nonce等
內部節點維護樹結構,以便可以快速計算整個樹的哈希根
由于存檔節點將保留所有區塊的所有歷史狀態,這意味著MPT中的任何更新都將創建O(log(N))個內部節點,并且不會刪除舊的內部節點。
Geth的全節點
為了解決存檔節點狀態爆炸的問題,Geth的天才工程師們創建了一種稱為“修剪”模式的新模式,該模式僅定期存儲MPT。這里我們舉一個簡化的例子,其中節點只保存每3個區塊的MPT。。
動態 | 日本區塊鏈協會提議:在虛擬貨幣服務提供商之間共享個人信息,以應對FATF新規:日本區塊鏈協會(JBA)于7月9日召開定期會議,該協會信任代表理事、bitFlyer總裁加納裕三總結了6月末與G20峰會同期召開的V20會議的相關情況。在V20會議中,各國參會者均就如何應對FATF新規提出了建議,并進行了深入討論。加納裕三作為JBA代表,亦提出了應對“旅行條款(Travel Rule)”的措施,并獲得了其他與會者的認可。加納裕三提出,可將個人信息置換成哈希數據,然后由接收方的VASP(虛擬貨幣服務提供商)對照發送方的個人信息,這一方法同時適用于歐盟通用數據保護條例(GDPR)和FATF規定,因而得到了大家的認可。[2019/7/10]
通過定期存儲MPT,狀態的存儲大小顯著減少。據Etherscan數據,目前Geth全節點的區塊鏈數據大小約為1TB。
Geth的可快速同步的全節點
通過從創世區塊開始重放所有交易來運行節點的一個問題是,重放所有交易會占用很長時間。一般來說,建立這樣一個節點需要數周時間才能從創世區塊趕上網絡的最新狀態。為了加速節點的啟動過程,Geth進一步提供了一種快速同步模式,可以下載最新的穩定區塊的MPT,而無需重放和維護區塊之前的歷史MPT。下載完MPT后,它會像全節點一樣重放新區塊。
動態 | 圣馬力諾政府部門大力研發區塊鏈:據Bankingtech消息,圣馬力諾共和國科學委員會技術小組在國家外交和財政和預算秘書處所在地Palazzo Begni舉行了第一次會議,有關各方稱其為在該部門制定區塊鏈立法的“基本步驟”。該工作組表示,正在研究區塊鏈的所有應用,其監管問題及其可能產生的影響。其長期目標是推動區塊鏈在該國落地,并推動立法。[2018/8/2]
在不存儲歷史MPT的情況下,一個Geth節點的存儲大小可以進一步減少到447G。通過減去300GB的區塊數據,我們推斷狀態大小約為150GB。
問題
以目前以太坊447GB的存儲大小和15TPS,我們預計具有1TBSSD的普通配置計算機應該能夠運行以太坊節點相當長的一段時間。那么存儲爆炸或狀態爆炸真的存在嗎?或許未來幾年以太坊并不會,但假如我們可以將以太坊的虛擬機(EVM)擴展到數百或數千TPS呢?
讓我們將目光轉向另一個基于EVM的鏈,幣安智能鏈。截至2021年12月8日,BSC已有:
約984GB鏈上數據,其中區塊約占550GB,狀態約占400GB。
動態 | HTC裁員不會影響其區塊鏈手機的開發或生產:據CCN報道,智能手機制造商HTC本周表示正在尋求精簡和整合其業務,宣布將裁員1500人,占其全球員工總數近25%。HTC公司發言人告訴CCN,此次裁員并不會影響其區塊鏈手機HTC Exodus的開發或生產。該公司稱這款手機將稱為“全球首款本地區塊鏈手機”。[2018/7/5]
20.6623億筆交易,100TPS
如果我們進一步用交易數量來預測數據大小,我們可以得到:
如果TPS為100,即~3,153MTPY
1年后,總TX~5,219M,區塊~1.375TB,狀態~1.085TB
3年后,總TX~11,525M,區塊~3.025TB,狀態~2.387TB
如果TPS為150,即~4,730MTPY
1年后,總TX~6,796M,區塊~1.809TB,狀態~1.427TB
3年后,總TX~16,256M,區塊~4.327TB,狀態~3.414TB
綜上所述,對于BSC來說,如果保持目前的速度甚至更高,則很快就會達到以太坊存檔節點相同的存儲大小,這是普通計算機幾乎無法運行的。
具有極高TPS區塊鏈的存儲爆炸問題
中國電信與區塊鏈企業星際魔盒合作提升上行帶寬:星際魔盒與中國電信股份有限公司達成戰略合作;通過云搬家APP可以提升上行帶寬至20M(符合條件用戶,不符合條件10M);100M以下用戶,提升下行帶寬至100M;100M以上用戶,提升下行帶寬至200M[2018/1/29]
如果我們對一個極高TPS的區塊鏈做一個更大膽的假設,這個數字會變成多少?我們來考慮一個具有1000TPS的區塊鏈并分析其區塊和狀態大小,將是:
假設tx大小約為100字節,每年區塊所需的存儲量為1000(TPS)*100*365*24*3600=2.86TB
假設MPT有100億賬戶,我們預計狀態大小將為150G/0.18B*10B=8.3TB
將這些數字放在一起,我們很容易得出一個結論,這是大多數普通配置計算機將無法承受的要求!
優化
為了優化存儲成本,我們必須將限制放寬為兼容EVM而不是兼容以太坊。即,我們必須構建/運行另一個支持EVM的鏈,而不是高度優化的以太坊客戶端。
狀態存儲優化
我們提出的第一個優化是使用普通的KV而不是MPT。當MPT很大時,MPT中的所有內部節點可能非常昂貴。而我們的優化將去掉MPT中的所有內部節點。假設每個賬戶的數據大約是50字節,我們可以節省下100億賬戶的數據為:
~10B*50+100GB=600GB,大約是MPT版本的1/10!
雖然使用普通KV會帶來巨大的好處,但一個主要問題是我們無法在如此短的區塊間隔內計算每個區塊的狀態后哈希,這意味著我們將失去以太坊的以下好處:
快速同步:下載任何區塊的狀態并通過重放剩余的區塊來快速同步網絡
分叉檢測:來自對等方新創建的區塊是否會導致與本地執行區塊的狀態不同。
為了啟用快速同步,我們有一個周期性的快照區塊。一個快照區塊包含前狀態哈希這一附加信息,即前一個快照區塊的后狀態哈希:
非快照區塊不維護狀態哈希,而是具有增量哈希,其中包含該區塊的所有交易事務的原始數據庫操作的哈希。這使得分叉檢測成為可能!
我們使用交易前狀態哈希來代替以太坊中區塊的交易后狀態哈希。原因是節點不能立即計算狀交易后的狀態哈希,但是通過使用交易前狀態哈希,節點可以使用整個epoch間隔來計算哈希。例如,假設狀態哈希計算每秒處理10M的狀態數據,那么計算600GB的整個狀態將需要600GB/10M~16.67小時
計算狀態前哈希的流程如下:
1.當一個快照區塊被接收并最終確定時,它的KV狀態被快照,并創建一個后臺線程來迭代所有KV條目并計算哈希。
2.當下一個快照區塊被創建時,計算出的狀態前哈希值將存儲在該區塊中。同樣,節點將創建KV的另一個快照并在后臺計算其哈希。
3.當下一個快照區塊被創建時,節點除了存儲狀態前哈希之外,節點現在可以釋放快照區塊的KV快照,這意味著來自快照區塊以來所有被刪除/更新的數據將被自動垃圾回收
其結果意味著,要存儲狀態,節點只需要最多兩個KV快照。
區塊存儲優化
使用快照區塊,我們可以通過僅存儲以下數據來進一步減少節點中所需的區塊數據:
最新的快照區塊的交易執行前狀態快照,即快照區塊的交易執行后狀態
快照區塊之后的完整區塊?
我們可以對存儲成本進行簡單的數學計算:假設epoch持續時間為2周,則區塊重放大小為
2*14*24*3600*100*1000=224GB!
而且,這里的數字不會隨著時間的推移而增長!
總結
我們分析了以太坊當前的存儲使用情況:
不僅是區塊,狀態存儲消耗了很多的空間
當TPS>1000時,存儲空間用量高得令人望而卻步
我們提出對區塊和狀態進行優化:
區塊大小從每年2.86TB減少到224GB
狀態大小從8.3TB減少到600GB
一臺2TB的普通配置計算機應該能滿足長時間運行節點的條件
缺點:輕節點無法驗證狀態中的一個數據
致謝
感謝dapp-learning主辦此次活動。教學全程視頻可點擊公眾號第二條推送觀看。
前段時間零零散散在Twitter上輸出了一些關于鏈上數據的觀點,有些朋友私信問讓我展開講講,所以有了這一篇文章,也算是自己的思路整理.
1900/1/1 0:00:00按市值計算,全球最大加密貨幣比特幣以19%的跌幅收盤,創下5月份以來的最大單月跌幅。這也是2013年以來表現最差的12月.
1900/1/1 0:00:00金色財經報道,哈薩克斯坦國家銀行(NBK)表示,正在使用R3的Corda平臺進行中央銀行數字貨幣(CBDC)即數字堅戈的試點.
1900/1/1 0:00:00在現實中,一些獲取巨額違法、犯罪所得的人,都傾向于將贓款通過洗錢等方式流向境外并購置境外資產,以防止自己“東窗事發”后違法、犯罪所得被追繳.
1900/1/1 0:00:00頭條 ▌FTX創始人:加密行業應合作解決當前的監管差距金色財經報道,FTX創始人SBF今日發推文稱:“我已經寫了很多關于FTX路線圖的文章,但我沒有寫太多關于加密的東西.
1900/1/1 0:00:00據報道,加密貨幣交易所?Kraken?正在開發自己的?NFT?市場,用戶可以在那里買賣各種JPEG圖片.
1900/1/1 0:00:00