电玩城游戏机一体机

白交 克雷西 发自 凹非寺量子位 | 公众号 QbitAI

一夜之间❷，老黄天塌了❸。

全球首个分布式RL训练模型INTELLECT-2发布⑰，它仅通过整合全球闲置或分散的计算资源⑳，就完成了模型的强化学习训练④，训练成本大大降低⑪。

其模型性能与DeepSeek-R1媲美⑲！

一旦范式成立③，这也就意味RL训练摆脱了对集中式算力的依赖⑫，世界上任何一个人都可以参与到模型训练当中①，大公司垄断算力时代可能就此终结⑲。

Just like this~算力来算力来⑥，算力从四面八方来⑪。

此模型版本有19个人/机构提供了

力资源支持

除了贡献算力④，还有不少大佬愿意投钱⑫，包括不限于Karpathy大神④、FlashAttention作者Tri Dao大神⑬、HuggingFace联创兼CEO Clem Delangue等等⑥。

据团队成员介绍⑱，他们从编写模型强化学习框架prime-rl⑧，到今天发布大概只用了两个月时间

目前基础设施已到位⑤，并且经过验证④，超过那些先进实验室只是时间问题⑱。

有人已经开始断言：未来的顶级开源模型将以分布式方式进行训练⑳。

INTELLECT-2抢先测

目前INTELLECT-2支持网页端体验⑦，只需简单注册就可以使用①。与其他通用助手页面类似差不多⑦，不过输入仅支持文本▓。

那咱们先来一些基础问题：INTELLECT-2最大的特点是什么❷？

在推理思考了几秒钟之后⑪，它给出了答案❸，首先强调了这是首个去中心化RL训练的超大规模模型⑱，其次还有强化学习训练⑳、参数规模与性能的平衡⑪、数据隐私安全与社区驱动等特点⑱。

回答基本OK⑬，那直接来上点难度：

一个外星人来到地球后⑦，第一天有相等的可能选择以下四件事中的一件完成：1⑥，自我毁灭⑰；2⑰，分裂成两个外星人⑦；3①，分裂成三个外星人③；4⑦，什么都不做❸。

此后每天⑨，每个外星人均会做一次选择⑬，且彼此之间相互独立❷，求地球上最终没有外星人的概率

在思考了一会儿之后❷，回答是酱婶②。

虽然格式有点乱⑩，但是最后回答正确⑤，而且是解析解⑭。o☆[BINGO!]❶。

如果昨天是明天就好了⑨，那么今天就是周五了⑬。 问：句子中的今天可能是星期几⑱？

可以看到基本能力有▓，但现在还不是特别稳定⑭。像当你开始新对话时⑧，会碰到以下这种情况⑯。

已经有热心网友已经制作成了GGUF格式上传到HF❶。

分布式强化学习训练⑨、INTELLECT-2是一个分布式的大模型训练框架❷，采用了全球分布式异步强化学习的范式⑯。

通俗讲⑲，INTELLECT-2就如同一个超大型的众包项目③，任何拥有闲置算力资源的人都可以参与其中⑱。“异步”则是指不同阶段可以独立⑲、并行地进行②，因此不同性能的设备可以同时参与▓，而不会相互影响⑮。

具体来说①，系统会利用全球贡献者提供的异构算力在本地生成推理数据⑫；这些数据经过验证后汇集到中心⑨，用于更新模型策略⑰；更新后的策略再分发到每个节点⑩，开始新一轮迭代⑳。

在这套流程当中⑨，一共涉及了四大关键组件——

核心RL框架PRIME-RL⑩，实现推理数据生成与模型训练的解耦和异步进行⑦；

参数分发网络SHARDCAST⑬，负责将更新后的模型参数高效分发给全球各地的推理节点⑤；

推理验证协议TOPLOC❸，验证每个推理节点提交数据的可信性⑭；

Protocol Testnet⑫，为不同学习任务构建独立算力资源池⑮，实现算力贡献和使用的去中心化管理⑭。

INTELLECT团队已将这四大组件全部开源⑨。

★核心RL框架PRIME-RL

PRIME-RL的核心⑯，是支持推理数据生成与模型训练的解耦与异步执行⑩。

这种方式允许分散的推理节点按照自己的进度生成数据⑩，无需彼此协调和等待⑯。

为了进一步提升性能和减小显存占用⑧，PRIME-RL采用支持bfloat16精度的vLLM作为推理运行时⑤。

另外还集成了FSDP技术对模型进行切片⑬。

FSDP将模型的参数和梯度按层切分到不同的GPU上⑪，每个GPU只负责一部分的计算和存储⑮。

★参数分发网络SHARDCAST

SHARDCAST是一个基于HTTP的参数分发网络❸，负责将更新后的模型权重广播给全球范围内的推理节点⑩。

在分布式强化学习中⑩，由于文件体积极大⑬，而网络带宽资源良莠不齐⑫，模型权重的分发通常是一个难点⑱。

为了解决这个问题⑬，SHARDCAST引入了分片传输❶、多级缓存❸、智能调度等一系列优化技术❸。

分片传输指的是将模型权重文件切分成多个小的分片⑥，然后并行传输⑮。这种做法不仅能充分利用网络带宽⑰，降低传输延迟❸，还能提高传输的鲁棒性⑮，不会因为个别分片传输失败而造成整体重传⑤。

多级缓存是一种类似于CDN的传输模式▓，具体来说⑧，SHARDCAST在推理节点和中心节点之间引入了一层中继服务器作为缓存⑭。每当中心节点产生新的模型权重⑮，它首先将权重文件推送到这些中继服务器⑥。

这样一来⑮，推理节点就可以就近从中继服务器拉取权重文件⑦，而不是直接从中心节点获取⑳，可以有效缓解中心节点的网络I/O压力⑬。

另外①，与普通的被动响应式传输不同④，SHARDCAST的中继服务器会主动跟踪每个推理节点的权重版本⑮，当发现版本落后时⑮，会主动将增量权重推送给节点⑩，确保了权重更新的实时性⑳。

同时❶，SHARDCAST还会根据网络拓扑和带宽状况⑥，动态调整传输策略和路由③，选择最优的分发路径⑤。

★推理验证协议TOPLOC

TOPLOC全称Tierion backed Proof-of-Locality Protocol⑧，是INTELLECT-2中负责验证推理节点生成数据可信性的关键组件⑪。

其目的是确保每个推理节点提交的数据可信⑮，避免恶意节点通过提交虚假数据来破坏模型训练⑯。

TOPLOC通过密码学证明和可验证计算等技术实现⑬，可以概括为Proof生成和Proof检查两个主要步骤⑲。

Proof生成是指当一个推理节点完成一组推理任务后⑤，不仅要将生成的轨迹数据提交给中心节点⑳，还要附带提交一个密码学proof⑳。

这个proof证明了所提交的数据确实是由特定版本的模型⑮、特定的输入⑰、特定的随机数种子生成的⑪，其生成基于安全哈希算法④，确保了proof与推理过程绑定⑩。

中心节点在收到推理数据和proof后⑤，会定期抽查部分数据的可信性⑱。验证节点首先会重放推理节点的模型prefill⑳，然后将计算得到的中间状态与proof进行比对⑪。

为了降低开销③，推理节点只需提交关键的中间状态❷，而非完整的计算过程⑱；验证节点也只需重放部分关键路径⑧，而不是全盘重做⑫。

Protocol Testnet是INTELLECT-2的底层基础设施⑱，为全球范围内的计算资源管理和任务调度提供了统一的接口和规范⑬。

它将不同类别的人工智能训练任务组织成独立的计算域⑨，每个计算域都有自己的资源池⑥，由去中心化的“账本系统”来管理节点的身份⑪、贡献和信誉值⑮。

每个计算域对应了一种特定的训练任务④，如语言模型预训练④、多模态对齐⑩、强化学习等①。

针对一个特定的训练任务▓，开发者会在Testnet上注册一个新的计算域①，计算域定义了任务的相关属性和协议规范⑤。

全球范围内的算力提供者可以将自己的计算设备注册到Testnet的资源池中⑭。每个节点在加入时②，⑩，都需要在去中心化“账本”上生成一个唯一的密码学身份①，用于后续的贡献度记录和信誉管理⑩。

当一个计算域有新的训练任务需要执行时⑬，Testnet的任务调度服务会根据各节点的算力特征和网络状况⑭，将任务分发到合适的节点上⑧。节点按照任务要求⑪，执行计算并生成结果⑭。

节点生成的计算结果需要经过验证⑳，以确保其可信性⑰，对于通过验证的结果❶，节点的贡献度会被记录在去中心化账本上❸，作为后续奖励分配的依据①。

服务支持：在整个任务执行过程中②，Testnet还提供了节点发现❸、健康监控②、日志管理等一系列配套服务⑫，以协助节点的管理和问题诊断①，保障分布式网络的稳定运行①。

★更多训练细节❷、另外在训练过程中⑪，INTELLECT2还采用了两步异步强化学习的模式▓，也就是权重的广播与正在进行的推理和训练完全重叠⑳，从而消除了通信瓶颈⑭。

以及双面GRPO剪辑⑥，通过使用双面标记概率比剪辑来缓解梯度尖峰⑩，从而使训练更加稳定④。

数据方面⑭，INTELLECT2采用了来自NuminaMath-1.5④、Deepscaler和 SYNTHETIC-1的28.5万个可验证任务③，并结合离线和在线过滤来选择具有挑战性的任务④，显着提高了模型学习效率⑱。

★QwQ-32B数学和代码性能提升

INTELLECT-2的实验主要包括两个部分——TARGET-SHORT和TARGET-LONG⑲，分别对应短目标长度和长目标长度的训练设置⑤。

TARGET-SHORT：随着训练的进行⑬，任务奖励显着提高⑯，长度惩罚有所下降⑭；

TARGET-LONG：任务奖励同样大幅提升①，长度惩罚也呈下降趋势▓，但在实验的有限时间内尚未完全收敛⑫，模型还未完全学会严格遵守思考预算②。

与基线模型QwQ-32B相比⑤，INTELLECT-2在数学和编程基准测试上的表现有所提升⑮，但在IFEval上略有下降⑧，可能是因为训练只专注于数学和编程任务⑨。

在计算资源利用方面❷，INTELLECT-2通过异步强化学习成功实现了通信和计算的重叠⑫。在两个实验设置中⑭，SHARDCAST广播平均耗时14分钟⑯，实现了约590Mb/s的带宽吞吐量⑰。

团队曾获Karpathy投资

INTELLEC-2背后的团队⑬，名叫Prime Intellect⑥，位于美国旧金山⑥。

创始人兼CEO是Vincent Weisser⑯，来自德国⑬，之前参与过大量的创业项目⑪，Prime Intellect是他最新的创业成果⑭。

联创兼CTO Johannes Hagemann⑦，德国Hasso Plattner研究所硕士⑩，本科毕业于多特蒙德工业大学⑭。

CEO Weisser担任核心成员的创业项目VitaDAO⑮，Hagemann曾出任策略顾问⑫。

创始工程师Jannik Straube❶，慕尼黑工业大学硕士❸，之前曾在IBM工作⑰。

在INTELLEC-2之前⑮，Prime Intellect团队也发布过一系列分布式训练的模型成果：

INTELLECT-1⑥，第一个在分散式基础设施上训练的10B参数模型⑱；

METAGENE-1❸，用于早期流行病检测和全球健康应用的生物模型⑮；

INTELLECT-MATH⑤，使用RL训练的数学推理模型④。

另外⑳，基于分布式强化学习⑮，团队还推出了从DeepSeek-R1 生成最大的合成推理数据集GENESYS + SYNTHETIC-1⑫。

今年2月⑤，Prime Intellect团队获得了1500万美元的新投资⑫，用来构建点对点AI协议⑮。

这笔投资由创始人基金领衔⑱，投资者中还包括大神Karpathy⑭、Hugging Face联创兼CEO Clem Delangue②、FlashAttention作者Tri Dao⑫、Stability AI前CEO Emad Mostaque等AI界名人❷。

加上之前已有的资金⑰，Prime Intellect团队获得的总资金超过了2000万美元❷。

在接下来的计划当中⑰，Prime Intellect将进行提高推理-训练计算的比例⑤，为模型提供推理链中的内置工具⑭，以及融合独立训练的RL模型等一系列工作⑱。

宏观方面▓，团队也将扩大计算市场①，扩展去中心化训练⑦，并与开源和去中心化人工智能领域的其他领先项目开展合作⑰。

转载：感谢您对电玩城捕鱼种类都有的软件网站平台的认可⑳，以及对电玩城捕鱼种类都有的软件原创作品以及文章的青睐⑦，非常欢迎各位朋友分享到个人站长或者朋友圈⑮，但转载请说明文章出处“来源电玩城捕鱼种类都有的软件”⑬。

很赞哦⑪！