AI与区块链技术的融合:从基础设施到应用

人工智能(AI)行业近年来快速发展,被视为新一轮工业革命的关键驱动力。大语言模型的出现显著提升了各行各业的工作效率,波士顿咨询估计GPT为美国整体工作效率带来了约20%的提升。同时,大模型的泛化能力被认为是新的软件设计范式,相比传统的精确代码,现在的软件设计更多地采用泛化的大模型框架,以支持更广泛的模态输入与输出。深度学习技术为AI行业带来了新一轮繁荣,这股浪潮也延伸到了加密货币行业。

本文将详细探讨AI行业的发展历程、技术分类,以及深度学习对行业的影响。我们将深入分析深度学习产业链的上下游,包括GPU、云计算、数据源、边缘设备等,梳理其发展现状与趋势。随后,我们将从本质上探讨加密货币与AI行业的关系,并对加密货币相关的AI产业链格局进行梳理。

AI行业的发展历程

AI行业起步于20世纪50年代。为实现人工智能的愿景,学术界和工业界在不同时代背景下发展出了多种流派。现代人工智能技术主要采用"机器学习"方法,其核心理念是让机器通过数据驱动,在任务中不断迭代以改善系统性能。主要步骤包括将数据输入算法、训练模型、测试部署,最终实现自动化预测。

目前机器学习主要有三大流派:联结主义、符号主义和行为主义,分别模仿人类的神经系统、思维和行为。其中以神经网络为代表的联结主义占据主导地位,也被称为深度学习。神经网络架构包含输入层、输出层和多个隐藏层,随着层数和神经元(参数)数量的增加,可以拟合更复杂的通用任务。通过不断输入数据调整参数,最终达到最佳状态,这也是"深度"的由来。

深度学习技术经历了多次演进,从最早期的神经网络,到前馈神经网络、RNN、CNN、GAN,最后发展到现代大模型如GPT等使用的Transformer技术。Transformer通过添加转换器,可以将多模态数据(如音频、视频、图片等)编码成对应数值表示,从而实现对任何类型数据的拟合。

AI发展经历了三次技术浪潮:

1. 20世纪60年代:第一次浪潮由符号主义技术引发,解决了通用自然语言处理和人机对话问题。同期,专家系统诞生。

2. 1997年:IBM深蓝战胜国际象棋冠军,标志AI技术迎来第二次高潮。

3. 2006年至今:深度学习三巨头提出深度学习概念,算法逐步演进,形成第三次技术浪潮,也是联结主义的鼎盛时期。

近年来,AI领域涌现了多个标志性事件,包括:

• 2014年:Goodfellow提出GAN(生成对抗网络)
• 2015年:OpenAI成立
• 2016年:AlphaGo战胜李世石
• 2017年:Google发布Transformer算法论文
• 2018年:OpenAI发布GPT
• 2020年:OpenAI发布GPT-3
• 2023年:基于GPT-4的ChatGPT推出并迅速普及

深度学习产业链

当前大语言模型主要采用基于神经网络的深度学习方法。以GPT为代表的大模型引发了新一轮AI热潮,市场对数据和算力的需求大幅增长。我们将重点探讨深度学习算法的产业链构成,以及上下游的现状、供需关系和未来发展趋势。

基于Transformer技术的大语言模型(LLMs)训练主要分为三个步骤:

1. 预训练:输入大量数据对,寻找神经元的最佳参数。这个阶段最耗费算力,需要反复迭代尝试各种参数。

2. 微调:使用少量但高质量的数据进行训练,提升模型输出质量。

3. 强化学习:建立奖励模型对输出结果进行排序,用于自动迭代大模型参数。有时也需要人工参与评判。

模型的表现主要由参数数量、数据量与质量、算力三个因素决定。参数越多,模型的泛化能力上限越高。根据经验法则,预训练一次大模型大约需要6np Flops的计算量(n为Token数量,p为参数数量)。

早期AI训练主要使用CPU提供算力,后来逐渐转向GPU,如NVIDIA的A100、H100芯片等。GPU通过Tensor Core模块进行浮点运算,其FP16/FP32精度下的Flops数据是衡量芯片性能的重要指标。

以GPT-3为例,其有1750亿个参数,1800亿个Token的训练数据。一次预训练需要约3.15*10^22 Flops,即使使用最先进的GPU芯片也需要数百天时间。随着模型规模扩大,对算力的需求呈指数级增长。

在模型训练过程中,数据存储也面临挑战。由于GPU内存有限,需要频繁在硬盘和内存间传输数据,芯片带宽成为一个关键因素。多GPU并行训练时,芯片间数据传输速率也很重要。因此,芯片的计算能力并非唯一瓶颈,内存带宽往往更为关键。

深度学习产业链主要包括以下几个环节:

1. 硬件GPU提供商:NVIDIA在高端AI芯片市场处于垄断地位。Google、Intel等公司也在开发自有AI芯片。

2. 云服务提供商:主要分为三类:传统云厂商(如AWS、Google Cloud)、垂直AI云服务商(如CoreWeave)、推理即服务提供商(如Together.ai)。

3. 训练数据源提供商:为大模型和垂直领域模型提供海量、优质、特定的数据。

4. 数据库提供商:主要是矢量数据库,用于高效存储和处理非结构化数据。

5. 边缘设备:包括能源供应和冷却系统,以支持大规模计算集群的运行。

6. 应用:基于大模型开发的各类AI应用,如对话系统、创作工具等。

加密货币与AI的关系

区块链技术的核心是去中心化和去信任化。比特币创造了去信任的价值转移系统,以太坊进一步实现了去中心化、去信任的智能合约平台。本质上,区块链网络是一个价值网络,每笔交易都是基于底层代币的价值转换。

传统互联网中,企业价值主要通过现金流和市盈率体现。而在区块链生态中,原生代币(如ETH)承载了网络的多维度价值,不仅可以获得质押收益,还可作为价值交换媒介、存储手段和网络活动的消费品。代币经济学定义了生态系统结算物的相对价值,虽然难以对每个维度单独定价,但代币价格综合反映了多维度的价值。

代币的魅力在于可以为任何功能或思想赋予价值。代币经济学重新定义和发现价值的方式,对包括AI在内的各行业都至关重要。在AI产业中,发行代币可以重塑产业链各环节的价值,激励更多参与者深耕细分赛道。代币不仅带来现金流,还能通过协同效应提升基础设施价值,形成"胖协议瘦应用"的范式。

区块链技术的不可篡改和无需信任特性也为AI行业带来实际意义。它可以实现一些需要信任的应用,如确保模型在使用用户数据时不泄露隐私。当GPU供应不足时,可通过区块链网络分销算力;当GPU迭代更新,闲置的旧设备也能继续贡献价值。这些都是全球化价值网络独有的优势。

加密货币行业AI产业链项目概览

1. GPU供给侧:

主要项目包括Render、Golem等。Render作为较成熟的去中心化基础设施项目,主要面向视频渲染等非大模型任务。随着AI需求增长和GPU迭代,共享GPU算力的需求可能会增加,为闲置GPU提供价值发现机会。

2. 硬件带宽:

典型项目如Meson Network,旨在建立全球化的带宽共享网络。然而,共享带宽可能是一个伪需求,因为对于高性能计算集群,本地数据存储的延迟远低于分布式存储。

3. 数据:

EpiK Protocol、Synesis One、Masa等项目提供AI训练数据服务。其中Masa基于零知识证明技术,支持隐私数据收集。这类项目的优势在于可以实现广泛的数据采集,并通过代币激励用户贡献数据。

4. ZKML(零知识机器学习):

使用零知识证明技术实现隐私计算和训练。主要项目包括Modulus Labs、Giza等。一些通用型ZK项目如Axiom、Risc Zero也值得关注。

5. AI应用:

主要是将AI能力与传统区块链应用结合,如AI Agent。Fetch.AI是代表性项目,通过智能代理帮助用户进行复杂的链上决策。

6. AI公链:

如Tensor、Allora、Hypertensor等,专门为AI模型或代理构建的自适应网络。这类项目通常采用类似强化学习的机制,通过链上评估者来改善模型参数。

总结

尽管当前AI发展主要聚焦于深度学习技术,但仍有其他潜在的AI技术路径值得关注。深度学习虽然可能无法实现通用人工智能,但已在推荐系统等领域得到广泛应用,具有实际价值。

区块链技术和代币经济学为AI行业带来了新的价值定义和发现机制。它们可以重塑AI产业链各环节的价值,激励更多参与者,并通过全球化的价值网络实现资源的高效配置。

然而,去中心化GPU网络在带宽和开发者工具方面仍存在劣势,目前主要适用于不紧急的小型模型训练。对于大型企业和关键任务,传统云服务平台仍然更具优势。

总的来说,AI与区块链的结合具有实际效用和长期潜力。代币经济学能够重塑和发现更广泛的价值,而去中心化账本可以解决信任问题,促进全球范围内的价值流动和剩余价值发现。随着技术的发展和生态的完善,AI与区块链的融合有望带来更多创新和机遇。