在今年WAIC展会上，超节点成为热词。华为的昇腾950超节点、阿里磐久AL128超节点、沐曦的曦景S系列超节点、中兴通讯的OEX超节点......几乎所有底座厂商，都在谈论并且推出超节点产品。
作为英伟达在2023年就提出的概念，超节点在行业内并不是一个新词汇。它通过将内部GPU进行高速总线互联，支撑起更大的计算任务，加速GPU之间的参数交换和数据同步，缩短大模型的训练周期。
英伟达的这一开拓，也将芯片厂商过去卖GPU的概念，变化成为通过AI超级计算机提供算力基础。
而国产芯片厂商纷纷入局，这背后既有需求发生的改变，也有国产AI芯片厂商竞争正在从单点突破走向系统协同，从芯片竞争走向AI基础设施竞争的产业逻辑变化。
“时间到了”，超节点火了
配资排行平台当展台上出现大量小型数据中心一样的超节点柜机时，大多数人都会有个疑问：什么是超节点？
超节点的核心，是把原本分散的众多AI芯片，通过超高速互联、统一软件和系统调度，组成一台”超级计算机”。其重点不在于有多少GPU的堆叠，而是这些GPU之间能不能通过有效通信，像同一块高性能GPU一样协同工作。
之所以超节点在今年的WAIC上成为热词，在行业人士看来，是因为“时间到了”。
从行业趋势来说，英伟达在提出超节点概念时就已经提到，随着大模型从训练模型转向推理模型，单块GPU的性能已经不够用了，边际效应正在逐渐显现，需要通过系统集成之间的信息互联去支撑更大的算力需求。
从国内现实来说，国内芯片厂商也直面和英伟达单颗GPU之间存在较大差距。
一家头部国产芯片厂商的技术工程师对观察者网坦言，目前国内芯片厂商的制造能力，和全球顶尖厂商之间仍有差距，这其中有制造工艺、良率等各方面的差异。
“我们目前这一代的产品，基本可以对标英伟达H20的产品，但和英伟达下一代Rubin这一代的算力相比，还有1代到1.5代的差距。”该工程师坦言，差异主要来自于生产工艺。
良率也是造成掣肘的问题。他提到，一些全球顶尖厂商生产芯片，100颗里有90颗都能使用，良率更高浪费越少：“这些都需要常年累积下来的经验，国内大部分厂商还做不到这一点。不论工程还是产线，从50%的良率提升到90%的良率，至少需要3-5年时间去弥补。但是现在整体AI需求的爆发，没有时间去干等技术的提升，因此需要通过其他的集成方式，去提高整体的性能。”
传统上试图通过堆卡去弥补性能上的不足，但算力需求的急剧膨胀使得单纯的堆卡集成已经不能提供有效算力，而是需要芯片之间的互通互联带来整体算力的提升。
天数智芯副总裁石加圣举了一个例子：“一张内容很多、时间有限的试卷，即使能力很强的人，也未必能够独自完成全部题目。简单增加做题人数，如果大家各做各的、重复劳动，最终效果未必理想。更有效的方式，是把任务合理拆分，让不同的人并行完成各自负责的部分，同时通过高效的信息传递和统一调度，及时汇总结果。只有这样，个人能力才能真正转化为团队的整体能力。”
在这一点上，去年华为的CloudMatrix384超节点AI集群就提供了一个很好的思路，到了今年，则迅速在国产头部厂商之间铺开。
元股证券:ygzq.hk根据WAIC展会上各家厂商提供的官方数据，华为Atlas950SuperPoD能够提供1EFLOPS FP8、2EFLOPS FP4算力；曙光8000的单个计算单元密度较其他超节点提升20倍，同时采用自研scaleFabric类IB原生RDMA无损高速互连技术，实现十万卡规模超高速稳定互连。
天数智芯的超节点则面向大模型训练与高并发推理场景，以国产通用GPU为核心，实现144芯高速全互联，通过高带宽互联、统一资源调度和软硬件协同优化，提供稳定、可靠、可扩展的高质量算力；燧原科技与中兴通讯合作的云燧ESL64-O超节点，将Scale-up和Scale-out进行融合，可横向扩展到16384集群超节点。
用产业链能力补足制程工艺差距
据展会上的工作人员透露，现场展示的部分超节点机柜，一个核心算力单元的价格就上亿元，可见其研发和部署成本之高。也就是说，当下超节点不论是研发、建设还是使用，成本都极为高昂，为何各大厂商仍然选择积极投入？
原因还是在于，市场对于算力的需求在急剧膨胀，以及越来越多的企业需求开始从训练模型转向推理模型。
相较于模型训练，面向大规模用户的在线推理服务通常需要同时满足高吞吐和低延迟要求。对于无法由单卡容纳的大模型，以及采用张量并行、专家并行或Prefill/Decode分离的推理系统，GPU之间需要频繁交换激活数据、Token或KV Cache，因此对互联带宽和通信延迟提出了更高要求。
这也是产业界发展超节点，并从芯片、互联、软件栈和运维等层面进行系统级优化的重要原因之一。
石加圣提到，随着大型模型的参数量和上下文长度持续增加，单卡显存容量和计算能力往往难以满足训练或高性能推理需求，因此需要采用数据并行、张量并行、流水线并行或专家并行等方式，在多个GPU之间切分计算任务。
传统集群主要通过高速网卡实现跨服务器通信，而超节点则进一步扩大了高带宽、低延迟的Scale-up互联域，能够降低部分跨GPU通信的开销。
他解释，当前越来越多的大型模型采用MoE架构。专家并行会带来频繁的跨GPU Token路由和All-to-All通信，因此对互联带宽、通信延迟和软件通信效率提出了较高要求：“对于通信密集型的大规模MoE训练和推理任务，超节点有望减少跨节点通信开销，并在满足一定利用率和业务规模的条件下提升整体性能与性价比。”
中科曙光（603019）技术工程师王德志认为，规模扩大以后，系统复杂度不是简单地线性放大。一方面，大规模并行计算需要整个系统高度协同，任何网络或计算短板都会使性能大幅损失，必须保证规模扩展时性能效率近似线性增长；另一方面随着部件数量的上升，故障概率也会大幅增加，进一步增加了保证系统可靠性的难度，其中涉及到通讯、功耗、散热等一系列问题。
除了算力本身需求增长之外，还有一个国内的客观因素在于，在国产芯片性能差异和被“卡脖子”的当下，如何通过系统性的解决方式，把差距补回来。
摩尔线程副总裁马鉴就提到，超节点本身应对的是“卡脖子”的问题：“厂商实际上要解决的是用更高的密度去解决单卡解决不了的问题，通过系统上的提升去对标国际先进领先的超大规模的集群，去训练出同样先进的模型。”
石加圣认为，中国拥有规模极大的制造业基础，以及很强的产业协同、系统集成和场景落地能力：“对于算力产业而言，单颗芯片在工艺和性能上的进步十分重要，但最终交付能力并不只取决于单个指标，还取决于芯片、封装、存储、互联、软件栈和整机系统之间的协同。”
他认为，面对部分环节的短板十大杠杆配资，可以通过架构创新和系统级优化进行一定程度的缓解，通过综合评估性能、功耗、成本和工程复杂度等方式来确认替代方案的可行性。
元股证券-网站首页提示：本文来自互联网，不代表本网站观点。
