方法論、工具與團隊：如何成為一名Web3數據分析師？_WEB

本文假設你是一個剛接觸web3的數據分析師，開始組建你的 web3 分析團隊，或者剛剛對 web3 數據產生興趣。無論采用哪種方式，你都應該已經大致熟悉了 APIs、數據庫、轉換和模型在 web2 中的工作方式。

在這本新指南中，我將盡量簡明扼要地闡述我的三個觀點:

思考：為什么開放的數據渠道會改變數據發揮效用的方式

工具：web3 數據棧中的工具概述，以及如何利用它們

團隊：web3 數據團隊的基本考慮和技能

讓我們先總結一下如何在 web2 中構建、查詢和訪問數據（即訪問 Twitter 的 API）。我們有四個步驟來簡化數據渠道:

觸發 API 事件（發送了一些推文）

更新到數據庫（連接到現有的用戶模型/狀態更改）

特定產品/分析用例的數據轉換

模型訓練和部署（用于管理你的 Twitter feed）

當數據是開源的時候，唯一需要的步驟是在轉換完成之后。Kaggle（1000個數據科學/特征工程競賽）和 hugs Face（26,000 個頂級 NLP 模型）等社區使用一些公開的數據子集來幫助企業構建更好的模型。有一些特定領域的情況，比如在前面的三個步驟中開放數據的開放街道地圖，但是它們仍然有寫權限的限制。

馬斯克要揭露推特虛假賬號數，但專家稱其方法“愚蠢”:5月15日消息，特斯拉馬斯克稱，為了弄清楚推特上的虛假/垃圾賬號是否像該公司長期宣稱的那樣低于5%，他將隨機抽取100名粉絲作為研究樣本。然而，社交媒體、虛假信息和統計分析方面的專家表示，馬斯克的分析方法存在嚴重缺陷。

?“為了找到答案，我的團隊將隨機抽取100名推特粉絲。我會邀請其他人重復同樣的過程，看看他們會發現什么，”馬斯克在推特中闡明了自己的方法，并補充說，“選擇任何有大量粉絲的賬戶，忽略前1000個粉絲，然后每10個選擇一個。我愿意接受更好的想法。?（鳳凰網科技）[2022/5/15 3:16:59]

我想聲明的是，我只是在這里談論數據，我并不是說 web2 完全沒有開源。像大多數其他的工程角色一樣，web2 數據有大量的開源工具來構建他們的管道（dbt, apache, TensorFlow）。我們仍然在 web3 中使用所有這些工具。總之，他們的工具是開放的，但他們的數據是封閉的。

Web3 也將數據開源，這意味著不再只有數據科學家在開放環境下工作，分析工程師和數據工程師也在開放環境下工作！每個人都參與到一個更連續的工作流程中，而不是一個幾乎是黑盒的數據循環。

騰訊區塊鏈交易方法專利公布:3月1日消息，騰訊科技（深圳）有限公司申請的“區塊鏈交易處理方法、裝置、電子設備和可讀介質”專利公布。摘要顯示，該方法包括：接收客戶端發送的交易請求；根據交易請求進行簽名操作，并向客戶端發送交易簽名；接收客戶端發送的交易驗證請求。該方法能夠讓交易請求在提案請求之前到達區塊鏈節點，減少交易過程中的等待時間，提高處理效率。(財聯社)[2022/3/1 13:29:27]

工作的形式已經從 web2 數據大壩到 web3 數據河流、三角洲和海洋。同樣重要的是需要注意，生態系統中的所有產品都會同時受到這個循環的影響。

讓我們看一個 web3 分析師如何一起工作的例子。有幾十家交易所使用不同的交易機制和費用，允許你將代幣 A 交換為代幣 B。如果這些是典型的交易所，如納斯達克，每個交易所將報告自己的數據在 10k 或一些 API，然后其他一些服務，比如 capIQ，會把所有交換數據放在一起，然后收取費用，讓你訪問他們的 API。也許有時候，他們會舉辦一次創新競賽，這樣他們就可以在未來收取額外的數據/圖表功能。

在 web3 交易所中，我們有這樣的數據流：

dex.trades 是 Dune 上的一個表格（由許多社區分析工程師隨著時間的推移整理而成），所有的 DEX 交換數據都被聚合在一起，所以你可以很容易地在所有交易所中搜索單個代幣的交易量。

騰訊公開“基于區塊鏈的交易管理方法”專利:企查查數據顯示，2月26日， 騰訊科技（深圳）有限公司公開基于區塊鏈的交易管理方法、系統及存儲介質專利，公開號為CN112419068A，專利摘要顯示，本申請揭示了一種基于區塊鏈的交易管理方法，該方法包括：接收交易發起方發送的原始交易數據和原始簽名數據；將原始交易數據中含有的節點信息與第一節點的節點信息進行對比等。本申請能夠實現區塊鏈上交易發源地的溯源。[2021/3/1 18:03:48]

一名數據分析師通過社區開源查詢創建了一個儀表盤，所以現在我們對整個 DEX 行業有了一個公開的概述。即使所有的查詢看起來都是由一個人寫的，你可以猜測這是在discord上經過大量的爭論，才準確地將其拼湊在一起得。

DAO 科學家查看儀表板，并開始在他們自己的查詢中分割數據，查看特定的對，比如穩定幣。他們會觀察用戶行為和商業模式，然后開始建立假設。由于科學家可以看到哪個 DEX 在交易量中占據了更大的份額，他們將提出一個新的模型，并提議改變治理參數，以便在鏈上進行投票和執行。

之后，我們可以隨時查看公眾查詢/儀表板，看看提案如何創造出更具競爭力的產品。

在未來，如果另一個 DEX 出現（或升級到一個新版本），這個過程將重復。有人將創建插入查詢來更新這個表。這將反過來反映在所有的儀表板和模型（沒有任何人必須回去和手動修復/更改任何東西）。任何其他分析師/科學家都可以以別人已經完成的工作為基礎。

京東數科新增區塊鏈相關專利，包含公共衛生安全管控方法:企查查App顯示，9月4日，京東數字科技控股股份有限公司公布兩項區塊鏈相關的發明專利，分別為“區塊鏈節點擴容方法、裝置、計算機設備及存儲介質”及“一種基于區塊鏈的公共衛生安全管控方法及裝置”。該兩項專利均申請于今年5月，申請人除京東數科外，還包括北京海益同展信息科技有限公司。后者成立于2017年7月，法定代表人曹鵬，注冊資本5000萬元，經營范圍包含技術開發、咨詢、服務、推廣及軟件領域的服務等。該公司由宿遷京東拓宏信息技術有限公司100%持股。[2020/9/9]

由于共享的生態系統，討論、協作和學習在一個更緊密的反饋循環中發生。我承認這有時會讓人難以承受，我認識的分析師基本上都在輪換數據耗盡。然而，只要我們中的一個人繼續推動數據向前（例如，某人創建了插入 DEX 查詢），那么其他人都會受益。

它并不總是必須是復雜的抽象視圖，有時它只是實用功能，如使它容易搜索 ENS 反向解析器或工具的改進，如自動生成大多數 graphQL 映射與一個 CLI 命令！所有這些都可以被每個人重用，并且可以在某些產品前端或您自己的個人交易模型中進行 API 的使用。

雖然這里開啟的可能性是驚人的，我確實承認，輪子還沒有平穩地運行。與數據工程相比，數據分析師/科學領域的生態系統仍然很不成熟。我認為有以下幾個原因：

聲音 | 長沙版權協會會長：區塊鏈為版權登記和明確提供了技術上的解決方法:據中國新聞網消息，4月28日，“2019年馬欄山版權保護論壇”在長沙舉行。中南大學知識產權研究院執行副院長、長沙市版權協會會長何煉紅表示，區塊鏈的誕生，為版權登記和明確提供了技術上的解決方法。“通過區塊鏈技術，數字作品的作者、內容和時間綁定在一起，所有證據都被固定在鏈條上，違規造假侵權的可能性進一步降低。[2019/4/28]

數據工程是web3多年來的核心焦點，從客戶端 RPC API 的改進到基本的 SQL/graphQL 聚合。像 theGraph 和 Dune 這樣的產品就是他們在這方面所付出努力的例證。

對于分析師來說，要理解 web3 獨特的跨協議關系表是非常困難的。例如，分析人員可以理解如何只分析 Uniswap，但卻很難在混合中添加聚合器、其他 DEXs 和不同的代幣類型。最重要的是，實現這一切的工具直到去年才真正出現。數據科學家通常習慣于收集原始數據并獨自完成所有的工作（建立他們自己的管道）。我認為他們不習慣在開發初期與分析師和工程師進行如此密切和公開的合作。對我個人來說，這花了一段時間。

除了學習如何協同工作之外，web3 數據社區還在學習如何跨這個新的數據堆棧工作。你不再需要控制基礎設施，或者慢慢地從 excel 構建到數據池或數據倉庫，只要你的產品上線，你的數據就會到處上線。你的團隊基本上是被扔到了數據基礎設施的最深處。

以下是一些數據工具匯總：

下面我們看看每種類型以及用法：

交互+數據源：這主要用于前端、錢包和較低層次的數據攝取。1

客戶端：雖然以太坊的底層實現是相同的，但每個客戶端都有不同的額外特性。例如，Erigon 對數據存儲/同步進行了大量優化，Quorum 支持隱私鏈。

節點即服務：你不必選擇運行哪個客戶端，但使用這些服務將為你節省維護節點和 API 正常運行的麻煩。節點的復雜性取決于你想要捕獲多少數據（輕節點→全節點→歸檔節點）。

查詢+數據映射：這一層中的數據要么作為 URI 在合約中引用，要么來自使用合約 ABI 將交易數據從字節映射到表模式。合約 ABI 告訴我們合約中包含哪些函數和事件，否則，我們只能看到部署的字節碼（沒有這個 ABI，你無法反向工程/解碼合約交易）。

交易數據：這些是最常用的，主要用于儀表板和報告。theGraph 和 Flipside API 也在前端中使用。有些表是合約的 1:1 映射，有些表允許模式中額外的轉換。

元數據“協議”：這些并不是真正的數據產品，而是用于存儲 DIDs 或文件存儲的。大多數 NFT 將使用其中的一個或多個數據源，我認為今年我們將開始越來越多地使用這些數據源來增強我們的查詢。

專業提供商：其中一些是非常健壯的數據流產品，Blocknative 用于 mempool 數據，Parsec 用于鏈上交易數據。其他的聚合鏈上和鏈外數據，比如 DAO 治理或國庫數據。

高維度數據提供商：你不能查詢/轉換他們的數據，但是他們已經幫你完成了所有繁重的工作。

如果沒有強大的、杰出的社區來配合這些工具，web3 就不會出現！我們可以看到每種類型對應的杰出社區：

Flashbots：專注于 MEV 上，提供從保護交易的自定義 RPC 到專業白帽服務的所有事宜。MEV 主要指的是槍跑問題，當有人支付比你更多的 Gas（但直接給礦商），這樣他們就可以搶先執行他們的交易。

Dune 數據精英：專注于為 Dune 的數據生態做貢獻的數據分析精英。

Flipside 數據精英：專注于為 Web3 數據升天做貢獻的數據分析精英。

MetricsDAO：跨生態工作，處理多個鏈上的各種數據獎勵。

DiamondDAO：專注于 Stellar 的數據科學工作，主要在治理、財政庫以及代幣管理方面。

IndexCoop：專注于代幣等特定領域的分析，以制定加密貨幣行業最好的指數。

OurNetwork：每周對各類協議以及 ?Web3 的數據覆蓋。

注：以上 DAO 的參與聯系方式詳看原文。

每個社區都做了大量的工作來改善 web3 的生態系統。毫無疑問，擁有社區的產品將以 100 倍的速度增長。這仍然是一個被嚴重低估的競爭優勢，我認為除非人們在這些社區中建立了一些東西，否則他們不會獲得這個優勢。

不用說，你也應該在這些社區中尋找可以加入你的團隊的人。讓我們進一步分析重要的web3數據技能和經驗，這樣你就能真正知道你在搜索什么。如果你想被雇傭，把這看作是你追求的技能和經驗！

至少，分析師應該是 Etherscan 偵探，知道如何閱讀 Dune 儀表盤。這可能需要 1 個月的時間來適應悠閑的學習，如果你真的要瘋狂學習，則需要2周的時間。

除此之外，你還需要考慮更多的內容，特別是時間分配和技能轉移。

時間方面：在 web3 中，數據分析師大約有 30-40% 的時間將花在與生態系統中的其他分析師和協議保持同步上。請確保你不會氣暈他們，否則，這將成為對每個人的長期損害。與更大的數據社區一起學習、貢獻和構建是必要的。

可轉移性方面：在這個領域，技能和領域都是高度可轉移的。如果使用不同的協議，可能會減少上手時間，因為鏈上數據的表模式都是一樣的。

記住，知道如何使用這些工具并不重要，每個分析師或多或少都應該會寫 SQL 或創建數據儀表盤。這一切都是關于如何做出貢獻并與社區合作。如果你正在面試的人不是任何 web3 數據社區的一員（而且似乎對這一塊沒有任何興趣），你可能要問問自己這是否是一個危險信號。

原文鏈接：

https://ath.mirror.xyz/w2cxg5OP1OEcqvSgsEjSSyKRJhPmam0w-fXGogiG-8g

作者?|?Andrew Hong

譯者：GaryMa 吳說區塊鏈

Tags：WEBWEB3區塊鏈APIweb3域名注冊web3域名交易區塊鏈技術發展現狀和趨勢HAPI.one

屎幣