读心神探

AI时代需要三座“工厂”,怎么建、谁买单?_我的网站

进击的巨人

一 |     

9月14日至16日,中国国家主席习近平将出席在撒马尔罕举行的上海合作组织成员国元首理事会第二十二次会议,并应哈萨克斯坦共和国总统托卡耶夫、乌兹别克斯坦共和国总统米尔济约耶夫邀请对两国进行国事访问。今年年初,中国与中亚举办了重大外交活动。1月25日,习近平在北京主持中国同中亚五国建交30周年视频峰会。习近平和五国元首一起观看了中国同中亚国家关系发展中历史性瞬间的视频,在热烈、隆重、友好的气氛中共同总结经验,展望未来。在1月的视频峰会上,习近平提出5点建议。    我们正在迈入Agentic AI(智能体)时代。在AI时代,Token(词元)正成为最大的消耗品,而Agent正在成为消耗Token的主体。第一,深耕睦邻友好的示范田。         面对这样的变革,7月18日,在摩尔线程“词元时代 万物智能”主题论坛上,摩尔线程创始人、董事长兼CEO张建中给AI产业的“卖铲人”下了新定义:AI产业需要AI工厂,而这个工厂分为三类,分别是模型训练工厂、词元生产工厂、智能体生产工厂。中方将秉持亲诚惠容理念,同中亚国家加强高层往来和战略沟通,办好“中国+中亚五国”外长会晤等一系列对话合作机制,不断增进团结互信,深化互利合作,实现共同发展、共同繁荣。         张建中阐述三大“AI工厂”概念          模型训练工厂:打造万卡级长稳训推的硬底座          训练一个前沿大模型,成本动辄数亿甚至上十亿元。

二 | 坚决反对以人权为借口干涉别国内政。第二,建设高质量发展的合作带。中国愿向中亚国家开放超大规模市场,将进口更多中亚国家优质商品和农产品,继续办好中国-中亚经贸合作论坛。模型能不能达到前沿水平、能不能快速从语言扩展到多模态乃至物理AI,与训练工厂的基础设施能力息息相关。中方倡议建立中国-中亚五国电子商务合作对话机制,适时举办中国-中亚国家产业与投资合作论坛。         一个合格的模型训练工厂需要具备以下几个条件:全功能——下一个要训练的模型可能是语言、视觉、世界模型或具身大脑,模型训练工厂必须什么都能训;高扩展——随着集群训练规模扩大,训练工厂需要保持极高的线性扩展效率;高精度——训练损失曲线和评测指标必须对齐国际主流;高稳定——万卡级长连续训练,中断一次代价巨大;软件栈完备——从算子到框架再到强化学习,缺一环就跑不通全链路。建立人畅其行的“快捷通道”,完善物畅其流的“绿色通道”,加快推进中吉乌铁路项目,推进中国-中亚交通走廊建设。         摩尔线程以夸娥(KUAE)智算集群为核心,逐一回应了这些要求。在万卡级规模下,集群保持95%的线性扩展效率,有效训练时长占比超过90%,训练精度与国际主流计算卡持平。软件栈方面,摩尔线程从底层MUSA SDK出发,兼容Torch、Triton、TileLang等算子生态,支持Megatron-LM、DeepSpeed、FSDP等主流训练框架,并提供MT-HTA仿真系统(SimuMax/SimuInfer)在训练前预估时长与效果。确保中国-中亚油气管道稳定运营,扩大能源全产业链合作。         在夸娥万卡级集群和训练套件之外,摩尔线程还针对MoE架构,集成了DeepEP通信库、算子融合等先进技术,原生支持Per-Block FP8精度,使算力得以显著提升。

三 | 加强人工智能、大数据、云计算等高技术领域合作。

四 | 第三,强化守卫和平的防护盾。要继续打击“三股势力”,深化边境管控等合作,筑牢地区安全防护网。中方愿继续向中亚国家提供疫苗和抗疫物资,加大疫苗和特效药联合生产和技术转让。2022年中国再向中亚国家提供5000万剂疫苗援助,并在有需要的国家设立传统医学中心。中方呼吁建立中国-中亚健康产业联盟。第四,构建多元互动的大家庭。要建立人文交流大格局,加快互设文化中心,积极开展文化遗产对话,继续推进妇女、智库、媒体等领域交流。         WAIC 2026摩尔线程展台          “我经常听到国内的模型公司担心,用国产的训练平台会不会耽误时间,会不会影响追赶世界先进水平。”张建中在演讲中传达出用户的疑问。         但摩尔线程已经通过实践对这一质疑给出了直接反击:MoE-236B在万卡级集群上从零起步完成了完整训练,基于25T+高质量语料,精度与损失曲线同国际主流高度一致;北京大学5D世界模型EvoPhys-World在夸娥集群上完成全栈原生训练,连续37天登顶斯坦福WorldScore“世界生成”维度;北京智源研究院RoboBrain 2.5在MTT S5000千卡集群上完成全流程训练,国产算力首度跑通具身大脑训练。         在WAIC 2026的展台上,记者还看到摩尔线程在WAIC现场首发的MTT C256超节点:首创一层Scale-up网络,实现标准单宽机柜128卡全互联、并柜扩展可达256卡极速互联,采用计算与交换一体化的高密设计,可大幅提高智算中心GPU部署密度,成为支撑长稳训推的硬件底座。         词元生产工厂:把每一份算力变成高质量Token          如果说训练工厂解决的是“训得出”,词元工厂解决的就是“供得上”——而且要供的是高质量Token。国家信息中心大数据发展部副主任魏颖在论坛上给出了一个判断:词元时代,产业正从卖电、卖算力升维到卖Token——按实际消耗付费,告别粗放的打包兜售,迈向按需付费的精细运营。         但用不同算力设施、不同模型生产的Token质量可能千差万别,Token的质量也直接决定了用户的消费意愿。中国工程院院士、清华大学计算机科学与技术系教授郑纬民在演讲中阐述,从技术指标来看,Token质量的差别主要体现在四个方面——首字延迟(TTFT)、吞吐量(TPS,每秒生成Token数)、并发请求数(同时服务多少请求)以及质量保障(SLO)。

五 | 首字延迟越低、吞吐量越大、并发请求数越高、质量保障越好的Token对于用户而言越有价值。         郑纬民阐述何为高质量Token          “如何规模化地生产高质量Token?”成为词元生产工厂的核心命题。

六 |          郑纬民对推理计算实现的过程进行了详细剖析:他表示,大模型推理涵盖两个关键过程——Prefill(预填充,简称P)把用户请求一次性处理成中间格式,是计算密集型;Decode(生成,简称D)逐字吐出结果,要求内存带宽高、延迟小,是带宽密集型。中方将为中亚国家推介旅游资源搭建平台,愿把五国全部列为中国公民出境旅游目的地国。中方倡议举办中国-中亚民间友好论坛,未来5至10年努力将中国同中亚五国友好城市增加至100对。今后5年中方计划向中亚五国提供1200个中国政府奖学金名额,举办中国-中亚青年艺术节、“未来之桥”中国-中亚青年领导人研修交流营等活动。第五,维护和平发展的地球村。未来3年中国将向中亚国家提供5亿美元无偿援助,用于各国民生项目建设;提供5000个研修研讨名额,帮助各国培养卫生健康、减贫惠农、互联互通、信息技术等各领域专业人才,增强发展的内生动力。尽管中亚国家吸收的外国直接投资(FDI)近年有所增长,但其在GDP中所占比重较北非、中美洲、巴尔干等发展中地区仍然较低。         这两大过程对硬件的诉求截然不同。过去很多计算芯片既要做P过程又做D过程,存在资源错配。

七 | 而P过程与D过程的物理分离,意味着P过程与D过程可以分别部署在不同的算力芯片上,实现“各取所长”。

八 |          基于PD分离的思想,摩尔线程推出了异构推理方案:由摩尔线程的算力芯片S5000完成Prefill过程,同时Decode依然安排在国际主流卡上,以此实现异构组合、分池部署。

九 | 从地域上看,欧盟靠近北非和巴尔干地区,美国靠近中美洲,这两大经济体将投资引向了邻近地区。但令人惊喜的是,这样的组合带来的不是“1+1=2”的结果,而是“1+1”远大于2的效果。

十 | 张建中解释道:“在这样的情况下,约3台S5000+2台国际主流卡,性能相当于9台国际主流卡。美国、中国和欧盟是全球三大经济体,那么,中国能否成为中亚地区的主要投资来源呢?数据表明,这样的机会很大。根据最新统计数据,中国迎来了投资热潮。”          这一方案也得到了行业伙伴的支持。趋境科技创始人艾智远在论坛上直言,S5000是他们经过全面评测后选择的当前阶段最优Prefill方案——原生FP8精度无需额外适配、稳定支撑超长上下文、生态迁移顺畅、供应链可靠。美国彭博社8月报道称,中国内地首次公开募股规模今年已接近580亿美元,美国和欧洲的这一数据分别是190亿美元和99亿美元。

十一 | 考虑到中国的经济实力及其在地理、政治和经济上与中亚的密切关系,双方的合作潜力显然很大。“一带一路”倡议的实施为实现这一目标带来了更多机遇,双方在多个领域合作前景广阔。在Prefill为王的编程场景里,4台S5000的Prefill性能能够超过1台B300。

十二 | (作者系北京师范大学“一带一路”学院特聘教授、吉尔吉斯共和国前总理卓奥玛尔特·奥托尔巴耶夫)

。趋境科技目前日均供应万亿级高质量Token,下半年这一数字将达数万亿。         模型厂商的判断也在印证这一转变。MiniMax副总裁薛子钊在论坛上表示,从整体训练和推理来看,今年是国产芯片非常重要的拐点,越来越多真实的线上场景开始承担起推理和训练任务,MiniMax很快也会有非常大规模的国产芯片推理集群真实上线承担任务。他特别提到,包括摩尔线程在内的多家国产芯片企业都在规划超节点,互联规模超过英伟达当前的72卡方案,“这一点国产芯片是做得比较领先的”——这让大参数、长上下文的推理场景能获得非常高的吞吐;而同构或异构的PD分离,则能把各类卡的性能发挥到最大化,整体降低系统推理成本。

十三 |          智能体生产工厂:从数字世界到物理世界          第三座工厂是最少被提及、却可能最具想象空间的。张建中把它定义为"连接数字世界与物理世界"的基础设施——AI最终落地到每个消费者身边,需要两种智能体:数字智能体和物理智能体(具身智能)。         数字智能体的核心要求是:能跨应用控制、能记忆、能调用工具完成复杂工作流、支持主流开源与闭源框架。摩尔线程自研了全域数字智能体“小麦”,掌握60余项技能,支持38款APP的跨应用控制,通过前端多模型、丰富知识库的灵活配置,做到更快、更准、更懂用户。         WAIC 2026上摩尔线程展示智能体生产工厂          物理智能体的要求则更为严苛。

十四 | 机器人需要在虚拟环境中完成训练与验证,才能部署到真机,实现Sim-to-Real(从虚拟到现实)。         摩尔线程为此打造了具身智能仿真平台MT Lambda,从底层算力、核心引擎到上层框架构建了完整解决方案。平台集成了三大物理仿真引擎——开源的MuJoCo和Newton,以及摩尔线程自研的AlphaCore物理引擎。

十五 | 在图形渲染方面,平台集成了3DGS、自研AI生成式渲染(AGR),以及光线追踪(Ray-Tracing)——MTT S5000是国内唯一具备Ray-Tracing能力的智算芯片,这意味着仿真环境中可以实现高度拟真的数字孪生渲染,让机器人在虚拟世界中充分训练后再部署到真机。WAIC展台上,一只机器狗的仿真训练动作与真机跳起动作几乎一模一样。平台还支持百卡到千卡级的大规模集群扩展,满足海量仿真训练需求。         京东集团技术委员会主席、京东云总裁曹鹏则从产业应用端印证了三大工厂的价值。

十六 | 他表示,AI基础设施层面正发生一个很大的转变,包括国产GPU、国产推理引擎、国产模型在内的全国产化体系正越来越多地被行业认可和使用,“摩尔线程就是一个非常典型的案例。”在模型工厂中,京东结合MTT S5000进行模型训练、适配与调优,刚刚发布的一系列JoyAI大模型,相当一部分训练算力正是依托摩尔线程提供的国产化算力;在Token侧,京东自研的xLLM推理引擎与MTT S5000做了深度适配,支撑集团每天大量的Token应用。

十七 |          曹鹏透露,京东正在全面布局无人配送、仓储机器人、家政服务机器人等物理世界场景,其"女娲"项目计划采集超过1000万小时的音视频数据用于训练具身大脑模型,而基于摩尔线程的计算与渲染优势,双方在数据生成和具身仿真领域开展了深度合作。

十八 | 现在,京东内部已部署400多个智能应用、4万多个智能体,每天Token消耗已近10万亿,从研发、采销到快递配送、客服,遍布各业务环节。         运维侧的智能体实践同样值得关注。无问芯穹技术副总裁吴保东分享了Infini-AIOps运维智能体在摩尔线程集群上的部署成果:调用摩尔线程的专家知识库与SDK,把故障处理评分从人工的50分提升到86分,平均处理时长从1小时缩短到20分钟以内,效率提升5倍;复杂问题的解决率从不到45%跃升至90%。无问芯穹与信通院联合发布的AISHPerf运维智能体评测基准,弥补了GPU集群运维智能体缺乏统一标准的不足。用吴保东的话说,智能体不仅要“造得出来”,还要“管得住、跑得稳”。         作者丨姬晓婷     编辑丨张心怡     美编丨马利亚     监制丨连晓东。

十九 |

Current article:http://tnba.chuaiguonengdonggai.buzz/list_175l/eje.html

Published on:10:53:00


我的网站最近更新

我的网站热门资讯