在信息時代裸奔,我們總會被數據挾持、出賣。因為你的數據不屬于你。
時下,是應該聊聊數據和隱私的時候了。
2019年末,我曾把零知識證明、多方計算、可信執行環境等隱私計算技術的代表項目匯聚到一起做了一期極為深度的討論。
那時,在區塊鏈產業分布里已經有了隱私賽道,有少數項目在研究、拓展、嘗試,只是對于隱私、隱私計算以及數據等維度并沒有那么清晰的判斷。
把時間線放的更長一些,從2018年至今,我們其實看到了隱私項目向隱私計算的迭代,這一現象代表了一些技術的發展和應用的趨向性。
在對這些項目分析解構,對市場需求進行考證后,筆者認為此時該提出一個有效的觀點。
即:當今的區塊鏈隱私計算項目里,誰想拿下隱私計算第一槍,要率先建立隱私計算的“分布式數據湖”。
原因很簡單:數據存儲在數據庫里并不能直接產生價值,只有經過數據訓練才有價值,也就是數據要有為深度學習、聯邦學習服務的能力,而數據湖是這個路徑里的必然選項,基于去中心化模型里,會出現新的“分布式數據湖”。
本文里,我會為這個名詞開個腦洞,在符合邏輯推演的范圍內為大家闡述一個框架。但這種模型目前并未有非常成熟的案例,如有偏頗,歡迎各位指證。
先談一談什么叫數據湖
金色財經合約數據播報 | BTC站上30日均線,市場活躍度回升:據火幣BTC季度合約行情顯示,截至19:00(GMT+8),BTC價格暫報7038美元(+5.79%),24小時季度合約成交量28.38億美元(+57.72%)。
昨夜BTC在6700美元一帶窄幅盤整后向上沖高至7335美元,然后迅速被打壓回6700美元,目前重新回到7000美元,成交量大漲。
根據火幣合約數據看,BTC 24小時總持倉量上漲,大戶多頭持倉比降低,季度合約重回低幅度的正溢價。市場活躍度進一步提高,價格波動提升,投資者需注意風險。
USDT于火幣全球站OTC的報價為7.16美元,溢價率為1.00%。溢價率繼續降低。[2020/4/3]
數據湖的概念,來自大數據和機器學習業務。
我們日常一定聽過數據庫,數據庫的形式可大可小,是非常獨立的數據存儲單位,每個數據存儲位置都是一個數據庫,當數據庫之間被打通,形成一個大數據交互結構,就可以理解為數據湖的形象。
筆者在亞馬遜的AWSLakeFormation服務定義里查到了數據湖的名詞定義:
數據湖是一個安全的集中式輔助存儲庫,它以數據原始形式和可用于分析的形式存儲所有數據。利用數據湖,可以分解數據孤島并組合不同類型進行分析,獲得分析結果指導更好的業務決策。
分析 | 金色盤面:USDT/CNY報收6.99:金色盤面綜合分析:USDT/CNY價格中心開始下移,市場資金流出意愿減弱,目前雖然反彈力度較小,但整體看恐慌情緒在降低。[2018/8/14]
所以我們可以理解為,當若干個原始存儲的數據庫連接起來,就是數據湖。但這個數據湖怎么工作呢?
這一段描述可以粗略看到一些工作需求。
“設置和管理數據湖包括加載來自不同來源的數據、監控這些數據流、設置分區、打開加密和管理密鑰、定義轉換作業并監控其操作、將數據重新組織成列格式、配置訪問控制設置、刪除冗余數據重復數據、匹配鏈接記錄、授予對數據集的訪問權限以及隨時間推移審核訪問權限。”
所以數據湖的主要功能是數據的交互,而處理其關鍵問題是加密和數據集的訪問權限。在我們所期待的去中心化數據湖里,似乎也是如此。
再談一談我們期待的去中心化數據結構
去中心化的數據結構,是去中心化的隱私計算的基礎,很簡單,就是數據是分散在生產者處,存在于我們的手機、電腦其他終端設備里。
當然,手機數據大多是有緩存的,有些數據是短時存儲,我們所看到的那些互聯網App收取用戶的數據,都是其所需要的數據,而這些數據有些實時產生,在緩存里,有些存儲在本地存儲里。我們雖然在本地可以操作查看,但平臺也可以隨時拿走數據,因為所有權并非在用戶這里。
金色財經現場報道 胡智威: 現有的區塊鏈技術有三大瓶頸:金色財經現場報道,在2018首屆區塊鏈技術應用高峰論壇上,火幣研究院首席分析師胡智威表示,現有的區塊鏈技術有三大瓶頸。第一個瓶頸是可擴展性,交易驗證很慢,交易處理能力弱。第二個瓶頸是隱私性,區塊鏈上的數據是透明、可追蹤的,很難解決隱私性的問題。第三個瓶頸是是互通性,公鏈間無法高效率交互,存在信息孤島,token無法互轉,存在價值孤島。[2018/6/14]
在去中心化的數據結構里,數據在本地存儲,還需要把所有數據加密,并且你所使用的App無法獲取你的數據,除非你主動向App提供交互,或者允許授權。
這個場景里,我們期待的是:平臺在沒有授權時是拿不走我們的數據的。但這僅代表的是成型的存儲數據。而我們有很多的數據,是需要經過中心化服務器處理的。
例如加入一個社交媒體,我們的用戶名,手機號,郵箱等等數據都是容易暴露的,理想狀態下,他人對我們選擇不公開的數據不可見,而關鍵的是,平臺也要對數據不可見,或者不可用。
這需要平臺具備一些基本的功能,而平臺的功能,一定是其背后開發功能中的體現,這就有關于我們知道的區塊鏈項目了,例如賬戶ID具備隱私功能,信息訪問權限的設定。
我們看到保護隱私的區塊鏈項目,都會在這方面努力。
金色財經投資者提示:EOS映射期間,不影響火幣平臺EOS幣幣交易:EOS主網即將上線,其映射及充幣提現問題備受關注。金色財經獲悉,EOS即將于新加坡時間2018年6月2日07:00結束眾籌,而映射的截止時間是6月3日06:00,之后所有基于以太坊ERC20的EOS TOKEN將會被凍結,無法轉賬。
火幣支持EOS全自動映射,并將于5月31日暫停EOS充幣和提現業務,映射期間,存放于火幣平臺內的EOS可進行幣幣交易。金色財經提醒廣大投資者務必于5月31日18:00之前完成充幣并做好資產管理,以免造成損失。[2018/5/29]
不過區塊鏈和加密貨幣有一些天然隱私特性,例如區塊鏈的歸屬權、加密貨幣的無需許可以及地址的匿名性。
只是當數據真的形成一定的體量之后,大部分的業務都與生活息息相關,所以匿名性之后會有kyc,kyc后,數據的隱私和隱私計算,無可厚非的成為最重要組成部分。
區塊鏈世界里,誰能建立數據湖?
互聯網大數據技術早已和云計算融合多年,在傳統云計算里,AI需求的數據湖對數據的控制已經變得很簡單,進展到了SaaS級別。
例如上文的AWSLakeFormation其創建過程很簡單,只需定義數據源,制定要應用的數據訪問和安全策略就行。LakeFormation模塊會幫助使用方從數據庫和對象存儲中收集并按目錄分類數據,將數據移動到新的數據湖里,使用機器學習算法清理和分類數據,并保護對敏感數據的訪問權限。
金色財經數據播報 日元、美元、USDT的交易額與月初相比均出現大幅上升的現象:據cryptocompare數據顯示,在比特幣的交易貨幣占比中,日元占比目前走勢較為平緩,當前日元在交易貨幣中占比達到57.64%,24小時交易額為2255.6億日元,相比4月初的1491.5億日元,交易額上漲了764.1億日元;美元交易占比目前為19.68%,交易額為6.98億美元,與4月初的5.4億美元相比,交易額上漲了1.58億美元;USDT目前的交易占比為13.85%,交易額為4.87億美元,與4月初的3.7億美元相比,交易額上漲了1.17億美元。[2018/4/24]
而對外表象是,使用方建立應用的用戶可以訪問那些描述了可用數據集及其適當用法的集中數據目錄。然后,用戶可以通過所選的分析和機器學習服務,利用這些數據集。
簡而言之,這個邏輯把分布在各處的數據,最終在數據服務上體現了價值,這是去中心化世界里,很多項目想要實現的,如果只是簡單的把數據控制在用戶手里,那用戶仍只是體驗了平臺的服務,而并非將數據可以變現,雖然說數據token化就可能有交易價值,但這種交易價值暴力程度遠不及在人工智能里實現的產業價值。
例如,如果微信去中心化了,我們在微信的行為數據就再也不會直接拿走被利用到廣點通里,你的朋友圈里不會出現“你剛剛和其他人說過的”你想買的物品,也不會被粗暴的推薦某些產品。
區塊鏈項目想實現這樣的愿景,但發展之路可能略有曲折。因為這樣的應用很難實現。
我們看到的區塊鏈項目,除了Defi、Nft這些應用層項目,其他都是基礎設施,而以區塊鏈的基礎設施,性能很難完成互聯網平臺的業務需求。
當隨著區塊鏈以及加密貨幣不斷擴展,網絡中的用戶增加,每個地址的關聯數據也開始增加,所有用戶的數據集中呈現了龐大的規模。這些存在本地的數據,就也組成了龐大的數據集群。
在這基礎之上,能實現數據湖的,并不多。因為實現數據湖,需要單獨的算力、存儲、算法等等。在區塊鏈項目的設計里,這個部分可能需要單獨的一層網絡,或某一個參與網絡建設的角色。
大部分區塊鏈項目并不能建立這樣的功能,因為大部分區塊鏈項目的網絡只有能力維持Defi項目的運行,而缺乏足夠的存儲和計算能力。
除存儲和算力外,在這基礎設施里,需要有去中心化的數據結構,例如以DID為單位的用戶數據,需要有算力和存儲的經濟模型,還需要有安全的代碼和便于開發應用的中間件。
這些都讓隱私計算的項目屈指可數。
當然我們這樣判定的前提,是我們所指的隱私計算,是關于數據的隱私處理。而并非簡單通過合約執行的匿名、混幣、交易隱私等等。
在交易處理分層的概念已經在加密貨幣項目設計里得到共識后,我們期待的是區塊鏈負責數據的權益證明,而其他層控制的算力和存儲,完成隱私計算。
定義一個可實時的框架
在文章的最后,我們用數據湖的最終命題,去推論出一個加密貨幣隱私項目的設計框架。通過這個框架,可以部分對比如今市面上的隱私計算項目。
首先,區塊鏈為加密貨幣項目提供共識層的總帳本。在這個總帳本里,是所有公開留存的數據證明。
接下來,是如何將項目設計為具備隱私計算能力。
從初代的隱私項目看,主要是增加了匿名性和交易隱私,例如具備混幣合約的隱私幣,其可以將合約當作一種dapp服務,讓代幣進入合約之后的操作無法查詢。這樣的設計,主要是在鏈上部署合約,可能會使用密碼學算法或者零知識證明等標志性技術,以保證交易過程在不可見的情況下正確執行。
而如果是有硬件要求的隱私計算設計,那在前文我們所提到的區塊鏈網絡,其網絡節點搭建,就需要特殊的設備,或者在區塊鏈共識層外,再次搭建一個由特殊設備組成的計算網絡。
例如通過集合具備TEE計算區的硬件設備連接成網,就可以利用TEE保護區塊鏈上的交易執行、合約執行等,TEE是對計算進行的物理保護,有一些獨特的通信方式,讓可信計算區和其他需求點交互。
而如果區塊鏈網絡具備MPC等對計算要求較高的技術部署,就需要搭建區塊鏈網絡的節點設備經過特殊定制,或者在區塊鏈共識層外,建立一個layer2計算、存儲層,將算力和存儲都共享出去,提供數據隱私計算需要的資源。
有趣的是,因為MPC很多情況下還是依靠加密算法,為了更周密的隱私部署,MPC和TEE會在非區塊鏈的可信案例里組合應用比較多,而MPC在區塊鏈項目里,與零知識證明、加密算法融合應用比較多。
當我們確認了有足夠的算力和存儲資源。
一旦需要數據湖,如AWS數據湖模塊一樣,需要建立數據湖,并且定向收集需求點位的數據,匯集后,對數據所有權進行分類,在數據湖里,除了數據所有權外,進行機器學習訓練的訓練方,數據執行方等都需要明確對數據湖的權限,例如訓練方可能具備管理訓練算法的權限,而其對部分數據是可用不可見。
數據最終的價值表現,與數據在訓練等過程中的作用也需要在數據湖的作用中進行評估。而這些輔助的計算都是基本功能,數據在數據湖的進進出出都會在區塊鏈上留下公開的痕跡,以保證所有權的公平。
最后,當技術上完善之后,就是數據變現后的權益分配,需要對數據貢獻進行定義,可能需要通證化的量化工作來實現公平的分配。
以上的參與者,理想狀態下,是很多方。而將這個模型放小,可能只會關于如今具備數據交叉訓練需求的幾方。
因為大部分數據的處理難度也是顯而易見的,例如數據的清洗、篩選、脫敏等等。
但如果這種模型已經成為標配,必然會有一個標配的經濟模型支持,例如這些資源的消耗需要需求者買單。而數據的訓練結果,可能將塑造下一個驚艷的產品。
如果我們只是因為自由選擇區塊鏈網絡,那你也許會因為產品體驗的不自由而離開,但如果你希望可以通過數據塑造價值,那必然要等待你的數據可以因為隱私計算變得有價值,并且這個價值可以回歸于你自己。
那個時候用戶才不會因為數據成為待宰羔羊,因為你可以對不認可的授權者say?no,拿好你的個人數據庫。
PS:文章篇幅有限,接下來筆者會繼續完成一些補充文章,例如數據湖中的數據倉,例如權益分配的詳細方案。敬請關注《金色深核》欄目的后續文章。
NFTs有任何內在價值嗎?這是過去幾個月來最激烈的話題之一。當你第一次遇到NFTs時,以第一直覺,是一定不會去購買的,你會納悶:為什么人們要花費數百萬美元,只為擁有那些什么都做不出也不存在的東西.
1900/1/1 0:00:00由于監管越來越嚴,即便是有了水電資源,但實質能開工“挖礦”的礦場已幾乎絕跡。因此,盡管閑魚上留言的買家不少,但是真正準備接手的買家卻寥寥無幾.
1900/1/1 0:00:00對于加密貨幣市場來說,最近幾周相當殘酷。從比特幣到狗屎幣,整個板塊損失了數十億美元,市場崩潰60%。最糟糕的是,每當加密貨幣市場看起來正在復蘇的時候,就會有一些假消息出現并導致又一次大規模拋售.
1900/1/1 0:00:00DeFi數據 1.DeFi總市值:742.35億美元 市值前十幣種排名數據來源DeFiboxDeFi總市值數據來源:Coingecko2.過去24小時去中心化交易所的交易量:29.
1900/1/1 0:00:00一個省份的電力需求變化,可折射出經濟運行的活躍度。未來三年,全省電力供需形勢嚴峻,存在較大的供應保障缺口.
1900/1/1 0:00:00美國國會參議員伊麗莎白·沃倫(ElizabethWarren)周四警告稱,“高度不透明和動蕩”的加密貨幣市場給消費者和金融市場帶來的風險越來越大,并抨擊其缺乏監管是不可持續的.
1900/1/1 0:00:00