超节点,一个频频在世界人工智能大会上出现的热词。

红星资本局注意到,人工智能行业正在发生变化。当讨论到算力问题时,相较于过去总关注“单颗芯片的性能”,现在的关注点更多转移到类似于超节点的系统解决方案。

在AI行业的算力竞争中,单卡性能或不再是唯一标准,有效算力背后的整体系统工程已成为各大厂商比拼的新战场。

不过,超节点等硬件设施能彻底解决算力紧缺问题吗?

刷屏的超节点是什么?

上千张AI芯片组成一台“超级计算机”

一组组黑色的机柜被搬上了世界人工智能大会的展台。

在世博展览馆H2展区,走一段路就能看到“超节点”等字样的标识。刚从这一组机柜离开,转眼又看到一组黑色的机柜,观众们围着机柜合影打卡,也有人向工作人员咨询相关参数。


图据华为公众号

超节点,已成为在世界人工智能大会上刷屏的热词,但这到底是什么?

要解释超节点,就必须说清楚“通信墙”问题。

当前,一张AI芯片无法满足AI大模型的计算需求,只能靠堆叠多张芯片把任务拆分来干,一般是以Scale-out(横向堆叠)的方式组成超大集群,但这会导致“算得快、传得慢”。有数据显示,在超高参数级别的大模型训练中,计算单元约40%时间在“空等”通信。

而超节点则是放大Scale-up(纵向堆叠)的范围,让更多芯片通过高带宽、低时延的方式连接,像一台超级计算机一样协同高效工作。


往每台服务器中塞多张GPU芯片,这就是Scale-up,此时每台服务器就是一个节点;再把多个节点连接起来,这就是Scale-out。图据中科院物理所官方账号。

在此次大会上,最受瞩目的超节点莫过于华为昇腾950超节点,这是其真机首秀。从数据上来看,它的单柜是64卡,共16台计算柜、4台灵衢柜,支持1024张AI芯片卡高速互联。

不过,1024卡不是华为昇腾950超节点的极限。有华为的工作人员告诉红星资本局,它真正的上限是8192卡,只是这次仅展出20个机柜、1024卡的配置,预计年底投入商用。

这是目前业界最大规模的超节点,有大模型正翘首以盼。早前,DeepSeek曾表示,随着下半年昇腾超节点全系列产品批量上市,其Pro版价格有望大幅下调。

算力从“拼芯片”到“拼系统”

谁家的系统工程能提供更多的有效算力?

不仅仅是华为,多家厂商也带来了差异化的超节点,从中兴通讯的中兴OEC超节点到新华三的UniPoD S80000超节点,再从阿里云的磐久AL128超节点到昆仑芯32/64卡超节点……

红星资本局发现,当讨论AI算力时,行业的关注点已经从“单颗芯片的性能”转移到集芯片、有效算力、散热、运维等为一体的系统方案。

以线缆为例,有业内人士告诉红星资本局,通常,机柜以铜缆、光纤等实现互联,但这些线缆可能会带来一定程度的性能损耗、运维复杂度较高、故障点多等难题。

而现在,中兴通讯已联合多家合作伙伴打造出Matrix超节点,是以OEX正交超节点为基座,其正交无背板的设计实现了零线缆,互联的成本能降低80%,能显著提升运维效率。


图据中兴通讯公众号

正如壁仞科技相关负责人在现场所说:当下,国产算力选择“体系化突围”,不靠单颗芯片硬碰硬,而是依靠超节点这类系统级创新,把上千颗国产芯片整合为高效协同的算力整体。

红星资本局注意到,在各家超节点集中亮相时,算力集群同样在系统方案上有新的突破。

其中,十万卡AI超集群曙光8000真机首次公开亮相,它贯通了芯片、计算、存储、网络、散热、应用和服务等关键环节,以全链路协同满足十万卡规模下多类型任务的复合计算需求。


图由中科曙光提供

以散热来说,Frore Systems联合创始人兼CEO Seshu Madhavapeddy在世界人工智能大会上给出一组数据:如果GPU芯片温度升高,性能效率指标就会急剧下降。同一块GPU,运行温度从65度上升到90度,其会损失30%的效率。

而中科曙光的工作人员告诉红星资本局,曙光8000采用的是浸没式液冷散热系统,所有核心元部件浸没在不导电的特殊液体中,这会把能源利用率提升至一个新高度,“实验室的PUE值可以低至1.04,简单来说,就是用1000瓦的电去做计算,只需要40瓦的电去散热。”

这或许也意味着:在AI行业的算力竞争中,单卡性能或不再是唯一标准,有效算力背后的整体系统工程已成为各大厂商比拼的新战场。

算力的终极解决方案是什么?

有人组建算力网,有人把目光投向太空

算力,俨然已成为AI时代的基建,但超节点、超集群现暂时无法彻底解决算力紧缺问题。

香港城市大学计算机学院教授林静告诉红星资本局,当前,AI尚未彻底融入人类的生活生产中;如果未来大规模使用,其所需要的算力相当庞大,要认真考虑地球的资源是否能满足。

在林静看来,想要真正解决算力的紧缺问题,有三种可能的方向:①提升人工智能的效能;②考虑冯·诺依曼的经典计算框架是否已不足以解决问题?发展量子计算等新计算范式;③发展太空算力,不消耗地球上的资源。

(注:公开资料显示,当前,冯·诺依曼计算架构在处理特定复杂问题时,日益暴露出“存储墙”、组合爆炸等固有效能瓶颈问题;行业内现已有人开始探索前沿的计算技术,如存算一体技术、光计算技术、量子计算技术。)

以太空算力为例,现已有组织、企业在推动发展。在世界人工智能大会“未来计算·未来算力”论坛上,上海“星枢计划”太空算力星座正式发布,该项目由复旦大学联合上海星枢天算航天科技牵头研制运营,总规划1000颗天基算力卫星。


图由论坛主办方提供

不过,也有业内人士告诉红星资本局,太空算力最早由马斯克等企业家提出,其受限于美国的供电环境;如果是在中国讨论算力,完善的电力设施等资源足以支撑开发所需的地球算力。

红星资本局了解到,当前,中国算力网也有了一定的发展。

鹏城实验室主任、中国工程院院士高文在前述论坛中表示,中国算力网的发展需要经过三个阶段:①算力资源汇聚;②在算力汇聚的基础上,面向特定用户群体开展协同运算;③在运营模式成熟后,算力网面向社会开放。

高文透露称,目前,第一阶段的任务已完成70%,全国70%的算力资源已纳入实时更新的统一数据库,该数据库提供给国家数据局使用,可实时展示各算力中心的运行状态等。

不管是算力网、发展太空算力,还是发展超节点等硬件设施提供算力,不同组织的不同人士都在为算力紧缺问题努力探索中,或许,算力在未来不再是需要考虑的问题。

红星新闻记者 杨佩雯 上海报道

编辑 肖子琦 审核 官莉