比特幣交易所 比特幣交易所
Ctrl+D 比特幣交易所
ads
首頁 > Gateio > Info

鏈上鏈下協同的數據歸檔真的太難了!和解?_BIT

Author:

Time:1900/1/1 0:00:00

前言

區塊鏈的全復制、擴展性等問題,使得業務向鏈上遷移會考慮采用兩層設計,有基于區塊鏈的合約層和鏈下拓展層,鏈下層承擔擴展鏈上能力。在兩層系統中,業務的存證或者協調數據在鏈上,鏈下拓展層會保存完整數據內容,并參與業務計算。

隨著業務的持續,鏈下節點的數據會逐漸累積,越來越大,數據的增長速度甚至會超過存儲介質容量增長的速度,而不得不為節點提供更大的高性能磁盤,當數據增長突破容量限定后會影響系統性能與業務持續性;鏈上合約層,當狀態數據數據累積到一定數據量級會導致系統吞吐量下降、鏈上數據查詢變慢,服務質量下降。

另一方面,雙層系統無法和一般的數據存儲系統(MySQL存儲系統)一樣進行“select-insert-delete”式的歸檔。合約數據涉及多個業務參與方,鏈上數據和鏈下的錨定、關聯關系不能被破壞等約束。

日本格斗賽事聯盟RIZIN在IOST鏈上推出專屬NFT交易平臺:據官方消息,日本格斗賽事聯盟RIZIN FIGHTING FEDERATION宣布在IOST公鏈上推出RIZIN 格斗系列NFT交易平臺。

RIZIN 格斗系列NFT交易平臺計劃于2021年底前正式上線。該NFT市場支持用戶買賣、收藏有關格斗經典場面、高光時刻的NFT。

RIZIN FIGHTING FEDERATION是日本的一家格斗賽事聯盟,該聯盟經常組織和管理 MMA(混合格斗)、跆拳道比賽。[2021/8/26 22:38:52]

為解決這些問題,我們對兩層系統的數據歸檔進行了一定的實踐,當合約層以及拓展層數據停止改變或不被頻繁使用時,對其進行遷移,減少合約狀態數據、讓出拓展層節點主存儲空間,提升系統的性能和服務質量。

什么是數據歸檔?

獨家 | BTC 24h 鏈上交易量上升13.1%:據歐科云鏈OKLink數據顯示,BTC 24h鏈上活躍地址數總計1010524,較前日上升4.27%;鏈上交易量總計617519.49BTC,較前日上升13.1%;鏈上交易筆數總計346193,較前日上升0.23%;BTC鏈上活躍度上升。

截至上午10時,BTC全網算力約為124.6EH/s,較前日下降1EH/s,全網算力呈下降趨勢。[2020/7/9]

-----數據歸檔過程和目標

為了詳述數據歸檔來龍去脈,我們需要了解幾個簡單的概念,首先,需要了解備份和歸檔的區別:

備份:存儲在非易失性存儲介質上的數據集合,在原始數據丟失、損壞或不可用時,可以從備份系統訪問或從備份數據中恢復,也稱為副本。備份同時保護了所有生產系統的活躍的和非活躍的數據。我們通常說的備份,類似“復制“操作。歸檔:將不再活躍但必須保留的數據移動到另一個存儲系統,以便釋放節點主存儲,提高系統性能。歸檔的數據是生產數據的子集,一般,將歸檔數據轉存到專用系統,歸檔類似”剪切“操作。在兩層系統語境下,歸檔意味著將合約的狀態數據以及數據錨定的鏈下系統數據作為一個整體進行歸檔。

獨家 | BTC24h鏈上交易量上升93.74%:據歐科云鏈OKLink數據顯示,BTC 24h 鏈上活躍地址數總計842,778,較前日上升18.11% ;鏈上交易量總計517,734.82 BTC,較前日上升93.74% ;鏈上交易筆數總計303,431,較前日上升16.96% ;BTC鏈上活躍度上升。

截至上午10時,全網算力約為107.78EH/s,較前日上升1.56EH/s,全網算力呈上升趨勢。[2020/6/23]

對數據歸檔,我們要達到如下目標:

1)獨立的數據歸檔支持合約,用于索引鏈上的數據,包括3方面內容:數據指紋、更新時間、關聯方;

2)一個歸檔模塊以及獨立歸檔服務:使用統一的架構,將數據遷移到一致的位置;

3)歸檔后的數據需要進行統一管理和一致的訪問;減少運維歸檔數據所需的成本,同時需要保護歸檔數據的安全性;

動態 | 數據:MKR鏈上出現約1703.29萬美元大額轉賬:Whale Alert監測數據顯示,北京時間09:22,3.47萬枚MKR從0x7848開頭的未知地址轉入0x2d70開頭的未知地址,按當前價格計算,價值約1703.29萬美元,交易哈希為:0x2a7584dea571678370aa3ce00d273440c4d646184c9969b9a66b1e19e6f13878。[2019/12/22]

4)歸檔后的數據具有索引和搜索功能,能更有效、快捷地對歸檔的數據訪問并利用;

5)相關歸檔的恢復:可以將某次歸檔恢復到生產環境。

一般的數據歸檔的過程:select-insert-delete,創建一個新的數據庫-歸檔庫,然后在歸檔庫創建與生產庫相同的表;不斷查詢生產庫數據記錄,同步復制到歸檔庫;生產庫刪除已經復制的數據記錄。雖然數據歸檔過程非常簡單,但是設計數據歸檔的方案,我們必須想清楚以下幾個問題?

動態 | VERI鏈上出現價值7.75億美元大額轉賬:今日01:25:59從0xd74791開頭地址向0x8572a7開頭地址轉賬97750350枚VERI,價值約7.75億美元。交易哈希為:fafcb5e65029914db2b3d1625d8cadfa746e80715728691a09d594af5fbf636e。Whale Alert分析稱,VERI是成交量較低的代幣,流通市值為1700萬美元;開發人員可能移動或解鎖了被鎖定的發行代幣(發行總量為100,000,000)。[2019/8/22]

歸檔前:那些數據可以歸檔?數據適合歸檔嗎?歸檔庫如何選型?歸檔執行階段:數據歸檔過程需要不斷的讀寫生產庫,這個過程將會大量使用的網絡、IO,那為了防止對線上業務造成壓力,數據歸檔一般只在業務低峰期執行。歸檔后:數據冪等被破壞,數據歸檔導致生成數據缺失,會對業務造成影響。針對歸檔的過程和目標。綜上,我們將提出設計和實現契合自身架構特點的歸檔方案。

歸檔方案實踐

趣鏈科技自研的區塊鏈隱私計算平臺BitXMesh,將區塊鏈與隱私計算技術深度融合,支持鏈上鏈下協同的數據共享和隱私計算。

BitXMesh是一個兩層架構系統。包括區塊鏈合約層,鏈上部署有數據共享合約、聯邦計算協調合約等,鏈下拓展層由BitXMesh節點組成并提供數據共享、聯邦計算等能力。從數據的維度看,整個系統由合約數據及合約數據錨定、節點內的數據以及支撐節點能力、逐漸累積的業務功能數據組成。歸檔數據的時候需要考慮:鏈上數據和節點本地數據,數據之間的錨定關系,以及本地數據的關聯關系。同時,數據類型也是需要考慮的,節點內有文件、K/V類型的數據,這些數據歸檔需要存放在不同的歸檔庫中。

BitXMesh數據歸檔組件包含:內部的歸檔模塊(Archivermodule)、鏈上數據歸檔支持合約、存儲對接組件、歸檔庫(存儲歸檔數據)。其中,鏈上數據歸檔支持合約是為了兩層系統協同歸檔而構建的合約,合約主要功能是進行鏈上數據的索引以及按時間進行引用計算,便于定位鏈上數據。整個歸檔模塊組件及其構成,如下圖。

針對K/V類型的數據,選擇BadgerDB作為歸檔庫,存放BitXMesh歸檔的K/V數據;對文件數據,使用IPFS作為歸檔存儲,同時文件的元信息存儲在BadgerDB歸檔庫;整個歸檔數據項的標識ID都會記錄在歸檔摘要文件中,歸檔摘要文件記錄了整個歸檔的元信息,該文件也可以提供給基于BitXMesh開發的業務系統使用,將業務系統的數據也進行歸檔。整個歸檔過程如下:

1)首先,歸檔庫初始化。指定歸檔庫存儲路徑,會在該目錄下創建K/VBadgerDB庫以及存儲大文件的ipfs,這兩個庫的創建尤其關鍵,歸檔的數據存儲于兩個庫中,后續可開發應用對歸檔的數據進行管理。2)其次,執行歸檔。目前,按“時間區間”進行歸檔,分為兩個階段:鏈上數據及與鏈上錨定的節點數據的歸檔、鏈下節點數據歸檔。

鏈上數據及與鏈上錨定的節點數據的歸檔:該步驟需要歸檔支持合約的支持,歸檔支持合約主要存儲鏈上數據的標識信息以及數據存儲時間。當歸檔時,先查詢該合約得到需要歸檔的數據列表,根據這個數據列表,去歸檔節點與其錨定的數據。整個過程包括查詢-寫入-刪除,查詢鏈上數據和鏈下數據,將查詢得到的數據信息寫入到歸檔庫,一旦寫入成功,將摘要寫入到歸檔摘要文件,最后刪除數據。鏈下節點數據歸檔:該步驟歸檔節點的業務數據,落到時間區間的數據即可執行查詢-寫入-刪除操作。一旦碰到文件數據,需要查詢元信息,寫入K/V歸檔庫,再取文件block寫入到ipfs歸檔系統。3)最后,資源回收和落盤操作。上面兩步已經將符合時間范圍的數據進行歸檔,之后需要將歸檔模塊訪問節點數據的連接斷開,歸檔庫也需要關閉數據訪問連接。歸檔摘要文件落到磁盤。

在進行了一次歸檔操作后,歸檔庫中的數據可以通過歸檔服務進行訪問,類似業務系統的做法,將歸檔庫作為backend數據存儲,通過HTTP接口訪問這些歸檔的數據。

總結

數據歸檔是針對大量數據累積的系統,對數據進行有計劃的遷移,當數據停止改變或不被頻繁使用時,通過數據歸檔把它們轉存到別的地方,讓出存儲空間,提升系統的性能。本文以BitXMesh數據歸檔模塊為例,對鏈上-鏈下兩層架構系統的數據歸檔進行實踐,將歸檔融入到系統功能,完成了歸檔使用統一的架構,將數據遷移到一致的位置,歸檔后的數據需要進行,統一管理和一致的訪問目標。

Tags:BTCMESHBITESHRBTCMESHI幣bitcoin幣比股票的比例versaillesheroes

Gateio
科普 | 一篇搞懂隱私計算中的聯邦學習(下)_ECU

3?聯邦學習中的數據安全問題回顧聯邦學習的起源,它同時具備兩個動機:解決“聯邦”場景下的方法框架問題,以及解決隱私保護問題.

1900/1/1 0:00:00
Polygon 駁 Offchain Labs:ZK Rollup 才是以太坊擴容的未來_POL

原文作者:BrendanFarmer,Polygon工程師原文標題:《ZKandtheFutureofEthereumScaling》 編譯:海爾斯曼,鏈捕手 上個月.

1900/1/1 0:00:00
歐洲證券監管機構Esma就規則變更開展咨詢,以適應代幣化證券_數字資產

據Finextra1月4日消息,歐洲最大的證券監管機構正在就是否需要修改有關報告和透明度要求的監管技術標準征求意見書,以適應金融市場中區塊鏈技術日益增長的使用.

1900/1/1 0:00:00
海淀區基于“長安鏈”推進區塊鏈技術在政務服務領域的應用_比特幣

據北京日報12月21日報道,區塊鏈軟硬件技術體系“長安鏈”在政務服務領域持續發力。海淀區基于“長安鏈”推進區塊鏈技術在政務服務領域的應用,截至目前共有14類國家級數據,24類市級數據,6類區級數.

1900/1/1 0:00:00
The Information:明年紅杉中國或將與其美國總部分道揚鑣,紅杉資本將轉變為開放式基金_ETHE

據TheInformation消息,出于宏觀政策原因,2022年紅杉中國與其在美國的總公司或將分道揚鑣,來自美國的資金可能逐漸撤離中國.

1900/1/1 0:00:00
十年損失超200億美元,黑客盯著區塊鏈_OLY

技術不懂是非善惡,區塊鏈黑客事件從未斷絕。 鏈新原創作者|廖羽 2021年的區塊鏈世界,光明面欣欣向榮,黑暗面也在穩步發展.

1900/1/1 0:00:00
ads