直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:探索)
-
2025年1月11日,南昌市公安局西湖分局、西湖区南浦街道办事处发布“情况通报”,再次通报“李某雪事件”情况。通报称,1月4日,江西省荣军优抚医院专家组形成最终诊断及评估结论:李某雪患强迫性障碍,特定 ...[详细]
-
昨日,鼓浪屿游客总数得到控制,出游更加有序。昨日是周六,天气晴好,春意融融,公共交通和部分景区免费开放的利好政策带动了市民的出游热情,各相关景区接待量增加,市民和游客都能主动提前预约并配合防控举措,各 ...[详细]
-
氨在常温常压下是一种无色而具有强烈刺激性恶臭的气体。胺是氨分子中一个或多个氢原子被烃基取代后的衍生物,甲胺、二甲胺、三甲胺具有氨味或鱼腥味。氨和有机胺类物质是仅次于有机硫化合物的恶臭污染物。氨和有机胺 ...[详细]
-
这个夏天相约凉山彝族火把节我们不见不散! ...[详细]
-
“之前一直在浙江厂里打工,孩子一直交给家里老人带着。现在他要小升初了,决定还是回老家就近找个工作,方便照顾孩子学习生活。”在汉阴县蒲溪镇做车缝工的李女士说道。像李女士这样的留守儿童家庭不在少数,留守儿 ...[详细]
-
防汛预警安全出行汛期出行 安全第一 ...[详细]
-
11日NBA:盖伊盼能加盟强队 艾弗森看好76人未来发布时间:2019-11-30 09:49 来源:豫都网 我要投稿[摘要]北京时间3月11日,NBA常规赛继续进行,以下是今日联盟消息汇总: 盖伊盼 ...[详细]
-
警 情 通 报2025年5月23日,我局接到报警,在普兰店区大刘家街道辖内发生一起致2人死亡的刑事案件。5月24日,我局将犯罪嫌疑人袁某功(男,42岁,中国籍,长居日本)成功抓获。经连日工作,近日已基 ...[详细]
-
霍华德新季将披8号球衣 魔兽喜获老鹰主帅肯定发布时间:2016-10-31 14:10 来源:豫都网 我来说说 我要投稿[摘要]北京时间7月14日,据《福克斯体育》报道,在接受采访时,霍华德透露,新赛 ...[详细]
-
厦门理工学院获准招收艺术专业学位硕士厦门日报讯 通讯员 徐丽麟)近日,国务院学位委员会印发了《关于下达2019年动态调整撤销和增列的学位授权点名单的通知》学位〔2020〕3号),厦门理工学院申报的艺术 ...[详细]