來源:金色財經Filecoin的存儲單元稱為扇區。對傳統硬盤結構理解的小伙伴,對這個術語應該比較親切,傳統硬盤的最小存儲單元就叫Sector。為了證明Sector的存儲,Filecoin進行了一系列的處理,傳說中的P1/P2/C1/C2。在處理過程中,一個Sector的計算會生成若干文件,最終會生成replica。相關文件是如何組織的?Cache都是由哪些文件組成,分別是多大?本文就從存儲的角度看看這些過程和邏輯。
Filecoin的存儲管理的邏輯主要實現在sector-storage項目中。在深入理解Sector存儲邏輯之前,先講講Worker和Manager。
01相關術語
Worker-處理P1/P2/C1/C2的服務,Worker又分為兩種:localworker和remoteworker。localworker處理本地服務處理,remoteworker支持遠程服務處理
Filecoin網絡目前全網有效算力為8.486EiB:據IPFS100報道,Filfox瀏覽器數據顯示,Filecoin網絡當前區塊高度為988904,全網有效算力為8.486EiB,總質押量約為9748萬枚FIL,活躍礦工數為2835個,每區塊獎勵為24.5608FIL,近24小時產出量為348189FIL,24小時平均挖礦收益為0.00392FIL/TiB,目前FIL流通量為154137245FIL。目前有效算力排名前三的分別為:f0127595(FILPool)以132.70PiB暫居第一,f0123261(LDPool)以115.11PiB位居第二,f0142720(RRM-雅典娜)以108.16PiB位居第三。[2021/8/3 1:31:25]
Manager-管理多個Worker
Scheduler-調度器,調度多個Worker,一個Manager通常有一個Scheduler
FIL跌破100美元關口 日內跌幅為9.31%:火幣全球站數據顯示,FIL短線下跌,跌破100美元關口,現報99.9976美元,日內跌幅達到9.31%,行情波動較大,請做好風險控制。[2021/5/17 22:10:06]
Store-Sector存儲系統
02Sector存儲
Sector處理相關的文件存儲在Store中。Store通過sectorstore.json進行配置:
CanSeal表明Store可以用來Seal,CanStore表面Store可以持久存儲Seal的結果(replica)。Weight是權重,在多個Store選擇時使用。ID是Store的UUID編號。
一個Store中存在三種存儲,分別對應三種目錄:unsealed(未封存的文件),cache,sealed。
Filecoin網絡目前總質押量約為6573萬枚FIL:據IPFS100.com報道,Filfox瀏覽器數據顯示,Filecoin網絡當前區塊高度為703777,全網有效算力為4.627EiB,總質押量約為6573萬枚FIL,活躍礦工數為2040個,每區塊獎勵為26.0999IL,近24小時產出量為363317FIL,24小時平均挖礦收益為0.0751FIL/TiB,目前FIL流通量為117972809FIL。目前有效算力排名前三的分別為:f0127595(時空云)以118.07PiB暫居第一,f0135467(RRM-雅典娜)以103.92PiB位居第二,f01248(智合云(ZH))以85.77PiB位居第三。[2021/4/26 20:59:40]
03Worker&Store
sector-storage項目的README中的這張圖很好的解釋了sectorstorage的各個模塊以及相互的關系:
OKEx將于12月1日11:00開放FIL/USDT的市場交易:OKEx官方剛剛發布公告稱,OKEx上線FIL, NEAR,具體時間如下:1. 11月30日16:00開放FIL , NEAR充值2. 12月1日11:00開放FIL / USDT的市場交易;12月1日12:00開放FIL / BTC的市場交易和FIL / ETH的市場交易;3. 12月2日11:00開放NEAR / USDT的市場交易;12月2日12:00開放NEAR / BTC的市場交易和NEAR / ETH的市場交易;4. 12月4日18:00開放FIL , NEAR提現。[2020/11/30 22:35:31]
整幅圖分為上下兩個部分:上部分是Manager,下部分是RemoteWorker。Manager中包括一個LocalWorker。stores.Index是所有Sector存儲的索引。Scheduler,上部分的中間,管理所有的Worker,并且調度Sector相關的存儲。
林念龍:Filecoin波動率通常情況下和比特幣是正相關的關系:6月28日下午3點,中幣“新基建,新機遇”暨七周年云峰會順利在中幣APP熱聊群展開。
在談到Filecoin是否會因為外部環境的影響或比特幣的影響而出現大幅波動時,閃挖創始人林念龍表示:“比特幣就像‘股市的大盤指數’,其他幣種在沒有其他外力的情況下,Filecoin就像“單只股票”,正常情況下和比特幣是正相關的關系。一般情況下,波動率(漲跌幅度)會大于比特幣。”[2020/6/28]
workermanagementAPIs通過/rpc/v0的jsonRPC接口實現remoteworker的管理。通過/remote的HTTPAPI實現存儲的Fetch操作,簡單的說,傳輸文件。specs-storage.Prover/Sealer/Storage是Manager暴露出來的接口,實現Sector的證明,封存和存儲。
每個連接到Manager的Worker會和Manager同步它的內存/CPU以及顯存的信息。Scheduler在接受到新的請求時,會針對請求(Task)的類型以及資源的需求,從當前Worker中挑選最合適的Worker進行請求的處理。如何選擇Worker,感興趣的小伙伴,可以查看selector的相關邏輯。
從存儲的角度,重新整理一下,這些關系:
以一個Manager連接兩個Worker為例。Worker只能Seal,但是不能Store。為了更清楚展示Worker之間的數據傳輸,第一個Worker只做Precommit1,第二個Worker做Precommit2和Commit。
04SealTask
理解SealTask,最好對照了Sector的狀態管理一起看。對Sector狀態管理還不熟悉的小伙伴,可以查看之前的文章:
Filecoin-Sector狀態管理邏輯
接下來,看看每個SealTask對應的存儲數據的變化。
AddPiece
如果其中左邊的Worker接收到任務,AddPiece任務會在unsealed目錄中創建原始數據。
PreCommit1
PreCommit1階段,簡稱P1,針對SDR算法,計算若干層數據。如果Sector是32G,需要計算11層。對SDR算法不熟悉的小伙伴,可以看看之前的文章:
經過PreCommit1,生成的數據存儲在Cache中:
PreCommit2
PreCommit2的階段,簡稱P2,生成Replica,計算ColumnHash,并生成Merkle樹(tree_d,tree_c,tree_r_last)。因為P2,不在同一個Worker處理,在進行處理之前,需要先傳輸給合適的Worker,處理的結果同樣存儲在Cache中:
Commit和Finalize
在Commit生成證明后,進入Finalize狀態,Finalize可以理解成“歸檔”。因為在Worker上沒有Store能力,刪除不需要持久化的數據,需要持久化存儲的數據,將傳輸回Manager。
05數據存儲量
以32G的Sector為例,在處理過程中需要存儲的數據如下:
原始數據-32G
原始數據Merkle-32G
P1layer-32*11G
P2-ColumnHash&tree_c-32*2G
P2-Replica&tree_r_last-32G+9.2M*8
總共:512G多一點。
06持久化數據
Sector經過P1/P2/C1/C2處理后,也就是說,經過PoREP處理后,需要持久化存儲Replica的數據和tree_r_last的數據。tree_r_last的數據需要存儲的原因是PoSt要用到。特別注意的是,tree_r_last的數據并不是完整的Merkle樹數據,刪除了其中一些層的數據。
32G的Sector,對應的tree_r_last分成了8棵子樹,每棵子樹是8叉樹,默認存儲的時候,忽略了最低的兩層。也就是,去除最低兩層的存儲量為:
所以每棵子樹的存儲數據為4G*0.00223=9.13M。
也就是說,Sector持久化存儲比例在1.0022左右。
總結:
Filecoin存儲管理的邏輯主要在sector-storage中。Sector的處理任務,可以通過多個Worker完成。每個Worker的存儲目錄結構一致,Sector數據可以在多個Worker之間通過Http服務傳輸。Sector處理過程中,最大的存儲需求量在512G左右。持久化存儲比例為1.0022。
IPFS、Filecoin?交流群
備注ipfs,添加菠蘿v號:q359361480
尊敬的用戶: 為積極響應用戶對ETH幣本位交易對的需求,平臺將于新加坡時間08月05日17點上線幣本位合約ETH/USDT交易對.
1900/1/1 0:00:00ATHENA:為什么是區塊鏈3.0+電商3.0?ATHENA,基于區塊鏈3.0技術理念建設的新一代共享經濟鏈商孵化平臺.
1900/1/1 0:00:00在賭場里,只有3中玩家,莊家,投資家以及賭徒,莊家以“規矩”可以獲勝,投資家以“博弈技巧”可以獲勝,唯有賭徒以“為”可以獲勝.
1900/1/1 0:00:00導語:該文章來自BHP社區“我與BHP的故事”主題有獎征文活動投稿,作者從一位投機者轉變為價值信仰者的經歷相信也是部分社區成員的真實寫照,讓我們一起看看他與BHP之間的故事吧.
1900/1/1 0:00:008月盛夏季,幣安幣本位交割合約大賽新賽季正式開啟。活動期間,參與幣本位交割合約交易且滿足活動條件的用戶,即可參與瓜分10萬美元ADA大獎.
1900/1/1 0:00:002020年上半年有兩種項目:一種是跟DeFi相關的,另外一種是其他項目。不少DeFi項目都出現了讓人拍斷大腿的行情,漲幅少則幾倍,多則百倍千倍.
1900/1/1 0:00:00