Foresight Ventures: AI + Web3 = ？

作者: ian@Foresight Ventures

通過這篇文章你可以了解：

什么是on-chain AI？

為什么還沒有鏈上AI?

AI上鏈的動力；

技術路徑；

我理解的on-chain AI價值；

on-chain AI的應用場景和項目分析。

開發者對基礎設施建設的瘋狂執著和各種rollup解決方案的更新迭代確實讓原本落后的web3計算能力實現了突破，這也為AI上鏈提供了可能性，但你可能想說與其大費周章地實現鏈上AI，直接在鏈下運行模型似乎也能滿足大部分需求，而事實上現在幾乎所有的AI模型都是以黑盒、中心化的模式在運行，并且同樣在各個領域創造了無法替代的價值。

主流的理解是通過Web3讓AI模型transparent + verifiable

再具體一點，AI上鏈意味著人工智能模型的complete verification，也就是說一個模型需要向全網（用戶或驗證者）公開以下三點：

模型架構；

模型參數和權重：公開參數和權重有時候會對產品安全性產生負面影響，因此，針對特定場景，比如風控模型，可以對weight做隱藏處理以確保安全性；

模型輸入：在web3的場景里基本上是鏈上公開數據。

當滿足以上條件時，整個模型執行的過程是具備確定性的且不再是黑盒操作，任何人都可以在鏈上對模型的輸入和結果進行驗證，從而防止模型擁有者或者相關權限人對模型進行操縱。

On-chain AI的意義不在于替代中心化的Web2人工智能的運作模式，而是：

在不犧牲去中心化和trustless的基礎上，為web3世界創造下一階段的價值。目前的Web3就像是web2的早期階段，還沒有承接更廣泛應用或者創造更大價值的能力。而只有在加入AI之后，dapp的想象力才能真正跳躍到下一階段，這些鏈上應用才有可能更接近web2應用的水平，這種接近并不是從功能上做的更相似，而是通過發揮Web3的價值，從用戶體驗和可能性上做出提升。

為web2黑盒的AI運行模式提供一種透明的、trustless的解決方案。

想象一下web3的應用場景：

將推薦算法加入到NFT交易平臺，基于用戶喜好推薦相應NFT，提高轉化；

在游戲中加入AI對手方，更透明、公平的游戲體驗；

……

但是， 這些應用都是通過AI對已有的功能在效率或者用戶體驗上的進一步改善。

-有價值嗎？有。

-價值大嗎？取決于產品和場景。

AI能創在的價值從來都不僅是99到100的優化，真正讓我興奮的，是從0到1的全新應用，一些只有通過transparent + verifiable的鏈上模型才能實現的use case。不過這些“令人興奮的”use case目前主要靠想象力，沒有成熟的應用，先來開幾個腦洞：

Terraform Labs宣布成立規模1000萬美元基金支持DeFi發展:2月4日消息，穩定幣平臺Terra背后的公司Terraform Labs宣布規模為1000萬美元的基金Terraform Capital，以支持以太坊上的DeFi項目。通過為項目支付安全審計成本，推動其與美元掛鉤的穩定幣TerraUSD (UST)或LUNA在DeFi領域的整合。(CoinDesk)[2021/2/4 18:55:45]

通過基于neural network的決策模型做crypto trading：一種產品形態可能更像是copy trading的升級版本，甚至是一種全新的交易玩法。用戶不再需要信任或調研其他experienced trader，而是對徹底公開透明的模型以及其performance下注。本質上AI根據對crypto未來價格的預測更快更果斷地進行交易。然而沒有鏈上AI自帶的“trustless autonomy”，這樣的下注對象或者標準根本是不存在的。用戶/投資者可以透明地看到模型決策的原因、過程甚至未來上漲/下跌的精確概率；

AI模型作為裁判：一種產品可能是全新形態的預言機，通過AI模型對數據來源的準確性進行預測。用戶不再需要信任validator，也不必擔心節點作惡，預言機提供方甚至不需要設計復雜的節點網絡和獎懲機制來實現去中心化。相應地，鏈上transparent + verifiable的AI已經足夠滿足驗證鏈下data source置信度的任務。這種全新的產品形態在安全性、效率和成本上有機會形成碾壓，去中心化的對象也由人跳躍到“trustless autonomy”的AI工具，無疑是更安全的。

基于大模型的組織管理/運作體系：DAO的治理本質上應該是高效、去中心化、公平的，而現在的現狀卻背道而馳，松散且臃腫，缺乏透明和公平性，鏈上AI的加入能提供非常契合的解決方案，將管理模式、效率提升到最高，將管理中系統性和人性的風險無限拉低。我們甚至可以去想象一種全新的web3項目的發展和運作模式，整個框架及未來發展方向和提案幾乎不依賴開發團隊或者DAO投票的方式來進行決策，相應的，基于大模型更龐大的數據獲取量和遠超人的計算能力去做決策。但這一切的前提也是模型上鏈，沒有AI的“trustless autonomy”就不存在去中心化世界從人到工具的躍遷。

基于鏈上AI的新的產品形態基本可以總結為將去中心化和trustless的主體從人變為AI工具，這也符合傳統世界生產力的進化過程，最開始是在人這個主體上下功夫，不斷升級提升人效，到后面通過智能工具替代人，在安全性和效率上顛覆原有的產品設計。

其中最關鍵的、也是以上一切的前提，是通過Web3實現AI的transparent + verifiable。

Web3作為一個現象級的技術創新，不可能僅僅停留在原始階段。流量和經濟模型很重要，但用戶不會一直停留在追捧流量或花費大量資源做X to earn，web3也不會因此onboard下一波新用戶。但有一件事的確定性是很強的：crypto世界生產力和價值的革命一定來自AI的加入。

ForTube聯合創始人許超：以太坊DeFi火熱并不是一蹴而成:金色財經現場報道，9月20日，由金色財經主辦，水橋區塊鏈總冠名的“共為·創業者大會”在廈門舉辦。在主題為《DeFi沉思錄：距離主流大眾有多遠？》的圓桌對話環節，ForTube聯合創始人許超表示，今年以太坊各個協議之間發生了比較強的化學反應，不管從資產層，借貸層，交易層還是保險層，衍生品層，各個協議之間都有了比較完善的生態和組合效應，加上今年好像并沒有其他的熱點，DeFi就取代了這個熱點。以太坊之所以有這么好的生態，是因為它有非常多的資產，核心的資產并不是今天形成，是在2016、2017年形成的，這些資產經過幾年的沉淀，已經形成了比較穩定的價值。[2020/9/20]

我覺得大致分成下面三個階段

起始：零知識證明算法和硬件的更新迭代為鏈上AI的涌現第一次提供了可能性；（我們在這）

發展：不管是AI對已有應用的提升還是基于on-chain AI的全新產品，都在將整個行業向前推進；

終局：AI + blockchain的最終走向是什么？

上面的討論都是通過AI與Web3的結合bottom up地發掘應用場景，換個思路top down地看待AI上鏈，AI會不會重溯Web3本身？AI + blockchain = 自適應的blockchain

一些公鏈會率先融合鏈上AI，從公鏈的層面轉變為一種自適應的，自身發展方向不再依賴項目基金會決策而是基于龐大數據進行決策、自動化水平遠超傳統Web3的形態，從而從當前多鏈繁榮的格局中脫穎而出。

在verifiable + transparent的AI加持下，web3的自調節體現在哪里，可以參考modulus lab提到的幾個例子：

鏈上的交易市場可以去中心化地自動調節，比如基于鏈上公開數據實時、不需要trust assumption地調整穩定幣的interest rate；

多模態學習可以讓鏈上協議的交互通過生物特征識別完成，提供安全的KYC，并實現身份管理的完全去信任；

允許鏈上應用最大化地捕獲鏈上數據帶來的價值，支持定制化內容推薦等服務。

從另一個角度看，zkrollup不斷迭代優化，但是始終缺乏一個真正只能在zk生態上跑的應用，ZKML恰好符合這一點，并且想象空間也足夠大。ZK-rollup未來很可能作為AI進入web3的入口從而創造更大價值，兩者互相成就。

基礎設施和ZK無疑是web3最瘋狂內卷的賽道，各種ZK項目在電路優化和算法升級上下足了功夫，不管是對多層網絡的探索，或者是對模塊化以及data availability layer的開發，還是進一步將rollup做成定制化的服務，甚至硬件加速……這些嘗試都在將Web3基礎設施的可擴展性、成本、算力推向下一個階段。

AI上鏈聽上去不錯，但具體怎么個加法？

一種做法是通過ZK proof system。比如針對machine learning做一個定制化的電路，鏈下電路生成witness的過程就是模型執行的過程，對模型預測的過程生成proof（其中包括模型參數和input），任何人都可以在鏈上驗證proof。

動態 | Fortress提高報價，愿以1300美元一枚BTC購買Mt.Gox債權:金色財經報道，Fortress Investment Group已提高了面向Mt.Gox交易所受害者的報價。Fortress提出以每比特幣1300美元，或在黑客入侵時用戶賬戶價值的88％作為報價。[2020/2/20]

AI模型還是在高效的集群上執行，甚至搞點硬件加速進一步提升計算速度，在最大化利用算力的同時確保沒有中心化的人或者機構可以從中篡改或干涉模型，也就是確保：

模型預測結果的確定性 = 可驗證的（input + 模型架構 + 參數）

根據以上做法，可以進一步推斷哪些infra對AI上鏈至關重要：

ZKP system、rollup：Rollups擴張了我們對鏈上計算能力的想象空間，把一堆transactions打包，甚至遞歸地生成proof of proof進一步降低成本。對于現在龐大的模型來說，提供可能性的第一步就是proof system和rollup；

硬件加速：ZK rollup提供了verifiable的基礎，但proof的生成速度直接關系到模型的可用性和用戶體驗，等待幾個小時去生成一個模型的proof顯然是不work的，因此，通過FPGA進行硬件加速顯然是一個很好的boost。

密碼學：密碼學是crypto世界的基礎，而鏈上模型以及敏感數據同樣需要保證隱私性。

補充：

大模型的基礎是GPU，沒有高并行的支持，大模型的效率將會非常低，也就無法運行。因此，對于一個鏈上的zk生態

GPU友好 = AI友好

拿Starknet舉例，Cario只能在CPU上跑，因此只能部署一些小的決策樹模型，長期來看并不利好大模型的部署。

ZK Proof的生成速度和內存使用情況至關重要，一個關系到用戶體驗和可行性，一個關系到成本和天花板。

現在的zkp system夠用嗎？

夠用，但不夠好…

Modulus lab在文章“The Cost of Intelligence: Proving Machine Learning Inference with Zero-Knowledge”非常詳細的分析了模型和算力的具體情況。有空可以讀一讀這篇ZKML屆的”零號文獻-paper0“：https://drive.google.com/file/d/1tylpowpaqcOhKQtYolPlqvx6R2Gv4IzE/view

以下是paper0中提到的不同證明系統

基于以上zk算法，modulus lab分別從時間消耗和內存占用兩個維度出發進行測試，并且在這兩個維度中分別控制了參數和層數兩個核心變量。以下是benchmark suites，這樣的設計也可以大致覆蓋從LeNet5的60k參數量，0.5MFLOPs，到ResNet-34的22M參數量, 3.77 GFLOPs。

動態 | Fort Capital CEO預測房地產行業將會使用區塊鏈將實物資產代幣化:房地產是世界上表現最好的資產之一，特別是在通貨膨脹期間（直到它導致經濟衰退）。房地產公司Fort Capital首席執行官Chris Power預測，未來十年將見證該領域的技術變革。他預計使用區塊鏈對實物資產進行代幣化或證券化。（CoinGape）[2020/1/4]

時間消耗的測試結果：

內存占用的測試結果：

基于以上數據，整體看目前的zk算法以及具備支持對大模型生成proof的可能性，但相應的成本依舊很高，需要甚至10倍以上的優化。以Gloth16為例，雖然受益于高并發帶來的computation time的優化，但是作為tradeoff內存占用顯著增加。Plonky2和zkCNN在時間和空間上的表現同樣驗證了這一點。

那么現在問題其實就從zkp system是否可以支持鏈上AI轉變為了支持AI上鏈所付出代價值不值？ 并且隨著模型參數的指數級上升，對proof system的壓力也會迅速增加。確實，現在有trustless的神經網絡嗎，沒有！就是因為成本算不過來。

因此，打造一個為AI定制化的proof system至關重要。同時，實現對AI這種單次調用計算十分復雜的邏輯，gas的消耗模型也需重新設計，一個高性能的zkvm至關重要，但現在我們已經能看到很多高性能的嘗試，比如OlaVM, polygon Miden等，這些基礎設施的不斷優化極大提升了onchain-AI的可行性。

盡管鏈上AI還在很早期階段，用上面的分層來看可能只處于起始到發展之間，但AI這個方向從不缺乏優秀的團隊和創新的想法。

就像上面說的，從AI在web3世界的發展階段看現在市場處于起始到發展的中間階段，產品嘗試方向還是以基于現有功能對用戶體驗優化為主。但最能體現價值的還是通過AI在鏈上將trustless的主體由人變為工具，在安全性和效率上顛覆原有的產品形態

下面從一些現有的應用嘗試出發，分析一下on-chain AI長期的產品發展方向

Rockefeller是modulus lab團隊推出的第一個鏈上AI的產品，有很強的“紀念價值”。這個模型本質上是一個trading bot，具體來說，rockefeller的訓練數據是大量鏈上公開的WEth-USDC的price/exchange rate，其本身是一個三層前饋經網絡模型，預測目標是未來WEth價格漲跌。

以下是當trading bot決策要進行交易時的流程：

Rockefeller在ZK-rollup上對預測結果生成ZKP；

動態 | Money Forward旗下加密貨幣交易所欲明年完成注冊:據Investing消息，Money Forward的神田潤一社長昨日在媒體發布會上表示，其旗下的Money Forward Financial（MMF）將于明年3月底前完成日本金融廳注冊，并開始加密貨幣交易所業務。此前，Money Forward曾于今年5月23日宣布其計劃進軍加密貨幣領域，并成立了子公司MMF以處理加密貨幣業務。[2018/12/4]

ZKP在L1上被驗證（資金由L1的合約保管），并執行操作；

可以看出trading bot的預測、資金操作完全是去中心化且trustless的，就像上面提到的，從更高維度看rockefeller更像是一種全新的Defi玩法。相比于信任其他trader，這種模式下其實用戶賭的是transparent + verifiable + autonomous的模型。用戶可以不需要信任中心化的機構確保模型決策過程的合法性。同時，AI也能最大程度上的消除人性的影響，更果斷地進行交易。

你可能已經想給Rockefeller注點資金玩一玩了，但這真的能賺錢嗎？

并不能， 按照modulus團隊的說法，與其說rockefeller是一個應用，他更像是on-chain AI的POC，由于成本、效率、證明系統等多方面的限制，rockefeller的主要目的是作為一個demo讓web3世界看到on-chain AI的可行性。（Rockefeller已經完成任務下線T T）

最近發布的Leela v.s. the world同樣是出自modulus lab。游戲機制很簡單，人類玩家組成陣營對戰AI。游戲中玩家可以質押下注，最終誰會贏得對局，每次match結束后loser’s pool會根據質押代幣的數量相應地分配給winner。

說到on-chain AI，這次modulus lab部署了一個更大的deep neural network(Parameter數量 > 3,700,000)。雖然在模型規模和產品內容上Leela都超越了rockefeller，但歸根結底這還是一次大型的on-chain AI experiment。Leela的背后的機制和運行模式才是需要關注的，這能幫我們更好地理解鏈上AI的運行模式和改善空間，以下是官方給出的邏輯圖：

Leela的每一次move，也就是每次預測，都會生成ZKP，并且只有在經過合約驗證之后才會在游戲內生效。也就是說，受益于trustless autonomous AI，用戶下注的資金和公平性完全受到密碼學的保護還不需要信任游戲開發者。

Leela采用的是Halo2算法，主要原因是它的工具和設計的靈活性可以幫助設計更高效的證明體系，具體performance情況可以參考上面的測試數據。但同時在Leela的運行中modulus團隊也發現了Halo2的弊端，比如生成證明的速度較慢，對one-shot proving不友好等。因此，也更加印證了之前基于測試數據得出的結論：如果需要將更大的模型帶入web3，我們需要開發更強大的proof system。

不過Leela的價值在于給我們帶來了AI + Web3 game更大的想象空間，王者榮耀玩家此刻應該無比希望王者匹配算法fully on-chain:) Gamefi需要更優質的內容支撐和更公平的游戲體系，而on-chain AI恰好提供了這一點。打個比方，在游戲中加入AI-driven的游戲場景或者NPC，不管是玩家的游戲體驗還是經濟體系的玩法都提供了巨大的想象空間。

Worldcoin是一個鏈上身份體系(Privacy-Preserving Proof-of-Personhood Protocol)，通過生物識別建立身份體系并實現支付等衍生功能，解決的問題是對抗女巫攻擊，現在的注冊用戶超過了1.4m。

用戶通過一個叫Orb的硬件掃描虹膜，將個人信息添加到數據庫中，Worldcoin通過Orb硬件中的計算環境運行CNN模型壓縮并證實用戶虹膜數據的有效性。聽上去很強，但如果需要做到身份驗證的真正去中心化，worldcoin團隊正在探索通過ZKP驗證模型的輸出。

挑戰

值得一提的是，worldcoin的CNN模型的size：參數=1.8 million，層數=50。基于上面展示的測試數據，現有的proof system在時間上完全可以勝任，但內存消耗對于消費級的硬件來說是不可能完成的。

Pragma：1. Pargma是從starkware生態上發展起來的ZK oracle。同時團隊也在探索如何通過鏈上AI解決去中心化鏈下數據驗證的問題。用戶不再需要信任validator，而是通過足夠精準且可驗證的鏈上AI完成驗證鏈下data source的工作，比如對于實際資產或者身份的驗證可以直接讓AI去讀取相印的物理信息作為輸入并做出決策。

Lyra finance： Lyra finance是一個option AMM，提供衍生品交易市場。為了提高資本利用率，Lyra團隊和modulus lab正在合作開發基于可驗證AI模型的AMM。基于可驗證的、公平的AI模型，Lyra finance有機會成為on-chain AI的一次大規模落地實驗，為web3用戶首次帶來公平的matchmaking，通過AI對鏈上市場進行優化，提供更高的回報。

Giza： ZKML平臺，將模型直接部署在鏈上而不是進行鏈下驗證，Nice try，but… 由于算力以及Cairo不支持CUDA-based的證明生成的問題，Giza只能支持一些小模型的部署。這也是最致命的問題，從長期來看，能對web3產生顛覆性影響的一定是大模型，而這種規模的模型必須有強大的硬件支持，比如GPU。

Zama-ai：模型的同態加密。同態加密是一種加密形式，簡單表示為：f[E(x)] = E[f(x)]，其中f是運算操作，E代表同態加密算法，x是變量，比如：E(a)  + E(b) = E(a + b)。允許對密文進行特定形式的代數運算得到仍然是加密的結果，將其解密所得到的結果與對明文進行同樣的運算結果一樣。模型的隱私性一直是AI的熱點和瓶頸，雖然zk對隱私友好，但zk不等于privacy。zama致力于確保模型執行的privacy-preserving。

ML-as-a-service： 這目前還只是一個思考方向，沒有具體的落地應用，但目的是通過ZKP解決中心化ML服務提供者作惡以及用戶信任的問題。Daniel Kang在文章“Trustless Verification of Machine Learning”中有詳細的描述(參考文中的一張圖)

整體來說，在web3世界里的AI處于非常早期的階段，但是毋庸置疑的是onchain-AI的成熟和普及一定會把web3的價值帶到另一個高度。從技術上看，Web3能給AI提供獨特的基礎設施，AI也是改變web3生產關系的重要工具，兩者的結合可以碰撞出很多可能性，這也是值得興奮和打開想象力的地方。

從AI上鏈的動力看，一方面，transparent + verifiable的鏈上AI將去中心化和trustless的主體從人變為AI工具，極大提升了效率、安全性，并且為創造全新的產品形態提供了可能性；另一方面，Web3的基礎設施不斷迭代，web3真正需要一個能讓這些基礎設施發揮最大價值的殺手級應用，ZKML恰好符合這一點，比如ZK-rollup未來很可能作為AI進入web3的入口。

從可行性上看，現在的基礎設施能一定程度上支持一定規模的模型，但還有很多不確定因素。通過ZKP做可驗證模型目前看是AI上鏈的必經之路，可能也是確定性最強的將AI帶入的web3應用的技術路徑。但是長遠來看現在的proof system需要再進行指數級的提升才能足夠支持日漸龐大的模型。

從應用場景看，AI幾乎可以完美地參與到任何一個web3的方向，不管是game、Defi、DID、tooling…… 雖然目前已有的項目非常匱乏而且缺乏長期價值，還沒有從一種提升效率的工具轉變為改變生產關系的應用。但值得興奮的是有人邁出了第一步，我們可以看到鏈上AI的最早期的樣子和之后的可能性。

Reference

https://worldcoin.org/blog/engineering/intro-to-zkml

https://medium.com/coinmonks/chapter-1-how-to-put-your-ai-on-chain-8af2db013c6b

https://medium.com/@ModulusLabs/chapter-2-why-put-your-ai-on-chain-33b7625147b7

https://medium.com/@ModulusLabs/chapter-3-the-worlds-first-on-chain-ai-trading-bot-c387afe8316c

https://medium.com/@ModulusLabs/chapter-4-blockchains-that-self-improve-e9716c041f36

https://medium.com/@ModulusLabs/chapter-4-5-trustless-ai-for-living-breathing-games-cc9f24080e30

https://medium.com/@ModulusLabs/chapter-5-the-cost-of-intelligence-da26dbf93307

https://medium.com/@ModulusLabs/chapter-6-leela-vs-the-world-the-worlds-1st-on-chain-ai-game-17ea299a06b6

https://drive.google.com/file/d/1tylpowpaqcOhKQtYolPlqvx6R2Gv4IzE/view

https://medium.com/@danieldkang/trustless-verification-of-machine-learning-6f648fd8ba88

金色財經 善歐巴

金色早8點

白話區塊鏈

Odaily星球日報

Arcane Labs

歐科云鏈

MarsBit

深潮TechFlow

BTCStudy

鏈得得

Tags：WEBWEB3CHAAINbitwebWEB3TokenMECHACareon Chain

MANA