直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:探索)
-
美股市場近一年最炙手可熱的飆股特斯拉,跌入熊市。為什麼會這樣?您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數閱讀 ...[详细]
-
发布者:小宁 浏览量:3932发布时间:2023/8/12 15:29:18 中秋,传统节日带来的是礼盒销量的暴涨高峰期,也是经销商赚钱的黄金期。那么什么样的礼盒是既有新意又 ...[详细]
-
“金海豚奖”入围名单揭晓 249部作品进入终评东南网10月12日讯 海峡导报记者 沈华铃 崔晓旭)2019年厦门国际动漫节“金海豚奖”入围名单昨日揭晓, ...[详细]
-
天下財經週報:海運價格飆漲六成,航海王又要大發利市了嗎?|天下雜誌
消費電子展登場,將透露2024年的AI新趨勢。物價漸趨平穩,紅海危機會不會是程咬金?中國經濟風雨來襲,降價求售刺激出口。您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數閱讀 ...[详细]
-
罗定:绿肥还田打造稻香循环生态 | 科学施肥增效技术田讲所_南方+_南方plus岭南春来早,播种正当时。当前是春耕备耕的关键时节,全省各地陆续开展春耕行动。3月17日,在旋耕机和插秧机的轰鸣声中,广东 ...[详细]
-
前段时间的巴黎时装周大家都有看吗,除了Comme des Gar?ons呈现的鞋款和 Crocs 洞洞鞋风格的「黄靴」外,还有许多其他引人注目的潮流鞋款和设计。而正是因为他们的展示,登场巴黎时装周这样 ...[详细]
-
2月20日,汉阴县公安局交通管理大队以交通安全社会化宣传为着力点,走进辖区银行为银行工作人员和前来办理业务的群众宣传交通安全知识,不断扩大交通安全宣传覆盖面,深化交通安全宣传教育。在业务大厅内,宣传民 ...[详细]
-
財經一週:聯準會公布會議紀要、日航事故、紅海危機再起|天下雜誌
1月1日起的這一週,聯準會公布FOMC會議紀要,何時降息仍不明朗;日航發生事故,乘客完美疏散;紅海危機再起。以下為本週你一定要關注的5大政經事件:您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數 ...[详细]
-
据生意社监测数据显示,本周纯碱维稳运行为主。周内华东地区市至周末市场均价为1733.33元/吨左右,较上周价格上调6.66元/吨,涨幅0.39%,较去年同比下跌18.37%。9月6日轻质纯碱商品指数为 ...[详细]
-
天下晨間新聞 大鷹唱「鴿」,要降息了嗎?|拼多多太「牛」,逼出馬雲|天下雜誌
鷹派轉向中,降息期待高,萬物都在漲。亞馬遜升級AI晶片,深化與輝達合作。拼多多業績太「牛」,逼出馬雲。您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數閱讀 ...[详细]