AI與加密貨幣的融合:從零到巔峯

人工智能技術近年來取得了突破性進展,被一些人視爲第四次工業革命。大型語言模型的出現顯著提升了各行各業的效率,波士頓諮詢公司認爲GPT爲美國提高了約20%的工作效率。同時,大模型的泛化能力被認爲是一種新的軟件設計範式,有別於傳統的精確代碼編寫,現在的軟件設計更多地是將泛化的大模型框架嵌入軟件中,使軟件具備更好的表現和更廣泛的模態輸入輸出支持。深度學習技術確實爲AI行業帶來了新一輪繁榮,這股熱潮也延伸到了加密貨幣行業。

AI行業的發展歷程

AI行業始於20世紀50年代,爲實現人工智能的願景,學術界和工業界在不同時期基於不同學科背景,發展出了多種實現人工智能的流派。

現代人工智能技術主要採用"機器學習"方法,其理念是讓機器依靠數據在任務中反復迭代以改善系統性能。主要步驟包括:將數據輸入算法,用數據訓練模型,測試部署模型,使用模型完成自動化預測任務。

目前機器學習主要有三大流派:聯結主義、符號主義和行爲主義,分別模仿人類的神經系統、思維和行爲。以神經網路爲代表的聯結主義佔據上風(也稱爲深度學習)。神經網路架構包括一個輸入層、一個輸出層和多個隱藏層,當層數和神經元(參數)數量足夠多時,就能擬合復雜的通用型任務。通過數據輸入不斷調整神經元參數,最終神經元會達到最佳狀態(參數)。

深度學習技術也經歷了多次迭代與演進,從最早期的神經網路,到前饋神經網路、RNN、CNN、GAN,最後發展到現代大模型如GPT等使用的Transformer技術。Transformer技術只是神經網路的一個演進方向,增加了一個轉換器,用於將各種模態(如音頻、視頻、圖片等)的數據編碼成對應的數值表示,然後輸入神經網路,使神經網路能夠擬合任何類型的數據,實現多模態。

AI發展經歷了三次技術浪潮:

1. 20世紀60年代,符號主義技術發展引起的第一次浪潮,解決了通用的自然語言處理和人機對話問題。同期,專家系統誕生。

2. 1997年,IBM深藍"Blue"戰勝國際象棋冠軍卡斯帕羅夫,標志着AI技術的第二次高潮。

3. 2006年,深度學習概念提出,掀起第三次技術浪潮。深度學習算法逐漸演進,從RNN、GAN到Transformer以及Stable Diffusion,塑造了聯結主義的鼎盛時期。

深度學習產業鏈

當前大模型語言普遍採用基於神經網路的深度學習方法。以GPT爲代表的大模型引發了新一輪人工智能熱潮,大量玩家湧入這個賽道,市場對數據和算力的需求激增。因此,我們重點探討深度學習算法的產業鏈,分析在深度學習主導的AI行業中,其上下遊是如何組成的,以及上下遊的現狀、供需關係和未來發展。

基於Transformer技術的GPT等大語言模型(LLMs)訓練主要分爲三個步驟:

1. 預訓練:輸入大量數據對,尋找模型各個神經元的最佳參數。這是最耗費算力的過程,需要反復迭代嘗試各種參數。

2. 微調:使用少量但高質量的數據進行訓練,提升模型輸出質量。

3. 強化學習:建立一個"獎勵模型",對大模型的輸出結果進行排序,用於自動迭代大模型參數。有時也需要人工參與評判模型輸出質量。

影響大模型表現的三個主要因素是參數數量、數據量與質量、算力。這三個要素孕育了一整條產業鏈。

硬件GPU提供商

目前Nvidia在AI GPU芯片設計領域處於絕對領先地位。學術界主要使用消費級GPU(如RTX系列),工業界主要使用H100、A100等用於大模型商業化落地的芯片。

2023年,Nvidia最新的H100芯片一經發布就獲得多家公司大量訂購。全球對H100芯片的需求遠超供給,出貨週期已達52周之久。爲擺脫對Nvidia的依賴,Google牽頭與英特爾、高通、微軟、亞馬遜等公司成立了CUDA聯盟,共同研發GPU。

雲服務提供商

雲服務提供商在購買足夠的GPU組建高性能計算集羣後,爲資金有限的AI企業提供彈性算力和托管訓練解決方案。目前市場主要分爲三類雲算力提供商:

1. 傳統雲廠商爲代表的超大規模雲算力平台(如AWS、Google Cloud、Azure)

2. 垂直賽道的雲算力平台,主要爲AI或高性能計算而設計

3. 新興的推理即服務提供商,主要爲客戶部署預訓練模型並進行微調或推理

數據庫提供商

對於AI數據和深度學習訓練推理任務,業內主要使用"向量數據庫"。向量數據庫能高效存儲、管理和索引海量高維向量數據,將非結構化數據以"向量"形式統一存儲。

主要玩家包括Chroma、Zilliz、Pinecone、Weaviate等。隨着數據需求增加和各細分領域大模型與應用的湧現,對向量數據庫的需求將大幅增長。

邊緣設備

在組建GPU高性能計算集羣時,會消耗大量能量並產生熱能。爲保證集羣持續運行,需要冷卻系統等邊緣設備。

在能源供給方面,主要採用電能。數據中心及支持網路目前佔全球電力消耗的2%-3%。BCG預計到2030年,訓練大模型的電力消耗將增長三倍。

在散熱方面,目前以風冷爲主,但液冷系統正受到大力投資。液冷主要分爲冷板式、浸沒式和噴淋式三種。

AI應用

目前AI應用的發展類似區塊鏈行業,基礎設施非常擁擠,但應用開發相對滯後。當前活躍用戶數最多的AI應用大多是搜索類應用,類型較爲單一。

AI應用的用戶留存率普遍低於傳統互聯網應用。活躍用戶比例方面,傳統互聯網軟件的DAU/MAU中位數爲51%,而AI應用最高僅爲41%。用戶留存率方面,傳統互聯網軟件前十名的中位數爲63%,而ChatGPT的留存率僅爲56%。

加密貨幣與AI的關係

區塊鏈技術得益於零知識證明等技術的發展,演變成了去中心化和去信任化的思想。從本質上看,整個區塊鏈網路是一個價值網路,每筆交易都是以底層代幣爲基礎的價值轉換。代幣經濟學規定了生態系統結算物(網路原生代幣)的相對價值。

代幣經濟學能爲任何創新與存在賦予價值,無論是思想還是實物創造。這種對價值重新定義和發現的手段對AI行業也至關重要。在AI產業鏈中發行代幣,能讓各個環節都進行價值重塑,激勵更多人深耕AI行業細分賽道。代幣還能反哺生態系統,促進某些哲學思想的誕生。

區塊鏈的不可篡改和無需信任特性在AI行業也有實際意義,能實現一些需要信任的應用。例如,確保模型在使用用戶數據時不知道具體數據內容、不泄露數據、返回真實的推理結果。當GPU供應不足時,可通過區塊鏈網路分銷;當GPU迭代後,閒置的GPU能貢獻算力到網路中,重新發揮價值。

加密貨幣行業AI相關項目概覽

GPU供給側

在加密貨幣行業的AI產業鏈中,算力供給是最重要的一環。目前基本面較好的項目是Render,主要用於非大模型類的視頻渲染任務。

行業預測2024年GPU算力需求約750億美元,到2032年將達到7730億美元,年復合增長率約33.86%。隨着GPU市場爆發和摩爾定律影響,未來會形成大量非最新幾代的GPU,這些閒置GPU可在共享網路中繼續發揮價值。

硬件帶寬

帶寬往往是影響大模型訓練時間的主要因素,特別是在鏈上雲計算領域。但共享帶寬可能是一個僞概念,因爲對高性能計算集羣而言,數據主要存儲在本地節點,而共享帶寬中數據存儲在一定距離外,地理位置差異導致的延遲會遠高於本地存儲。

數據

目前上線的加密貨幣行業AI數據提供項目包括EpiK Protocol、Synesis One、Masa等。與傳統數據企業相比,Web3數據提供商在數據採集方面具有優勢,因爲個人可以貢獻非隱私數據(甚至通過零知識證明技術貢獻隱私數據)。這擴大了項目的覆蓋面,不僅面向企業,還能爲任何用戶的數據定價。

ZKML(零知識機器學習)

若要實現數據的隱私計算和訓練,業內主要採用零知識證明方案,使用同態加密技術在鏈下進行推理,然後將結果和零知識證明上傳鏈上。這既保證了數據隱私,又實現了高效低成本的推理。

除了專注於AI領域的鏈下訓練和推理項目,還有一些通用型的零知識項目,如Axiom、Risc Zero、Ritual等,它們能爲任何鏈下計算和數據提供零知識證明,應用邊界更廣。

AI應用

加密貨幣行業的AI應用情況與傳統AI行業類似,大部分處於基礎設施建設階段,下遊應用發展相對薄弱。這類AI+區塊鏈應用更多是傳統區塊鏈應用加上自動化和泛化能力,如AI Agent可以根據用戶需求執行最優的DeFi交易或借貸路徑。

Fetch.AI是代表性的AI Agent項目。它定義AI Agent爲"一個在區塊鏈網路上自我運行的程序,可以連接、搜