◎一名资深业内人士告诉《每日经济新闻》记者:“从我们自身的经验看,催生液冷落地的核心需求,就是AI以及GPU。因为液冷可以给(AI服务器)带来明显的投资收益。”
每经记者 朱成祥 每经编辑 魏官红
近日,英伟达CEO黄仁勋在2024 SIEPR经济峰会上透露,下一代DGXGPU服务器将采用液冷散热,并表示即将推出下一代DGX服务器。
目前,数据中心主流仍为风冷。而随着生成式AI的火热,液冷逐渐受到追捧。
近期,A股市场液冷概念股涨势明显。比如液冷全链条解决方案提供商英维克(002837.SZ,股价32.89元,市值186.97亿元),2月6日至3月13日,区间涨幅达83.03%;同期,服务器冷板厂商飞荣达(300602.SZ,股价16.82元,市值97.23亿元)涨幅也达76.68%。
目前,CPU服务器主流使用风冷。而进入AIGC时代,AI服务器功耗剧增。
对于液冷逐渐火热的原因,3月13日,一名资深业内人士告诉《每日经济新闻》记者:“从我们自身的经验看,催生液冷落地的核心需求,就是AI以及GPU。因为液冷可以给(AI服务器)带来明显的投资收益,原来使用液冷更多是环保要求,并非投资收益。”
该人士进一步解释称:“一颗CPU大概多少瓦呢?高档一点的接近300瓦。一台服务器,配两颗CPU是比较常见的。正常的CPU服务器就两颗CPU,当然也有四路和单路服务器,常见的应用场景以两颗CPU为主。而GPU服务器(AI服务器)一般都是8颗GPU起。总体来看,CPU服务器超过1KW(千瓦)已经很高,而一台GPU服务器会达到6KW,英伟达最新一代服务器达到11KW(千瓦)。”
若以英伟达最新一代服务器功耗计算,一台GPU服务器的功耗约为CPU服务器的十倍。
开源证券研报认为,Intel多款CPU TDP(热设计功耗)已达350W,英伟达的H100 SXM TDP甚至达到700W,B100(英伟达即将推出的GPU)TDP或将达到1000W左右,逼近风冷单点散热极限。
此外,单机柜功率不断增长,逼近风冷散热极限。英伟达DGX A100服务器单机最大功率约在6.5KW左右,在机柜上架率不变的情况下,服务器功率上升导致单机柜功率亦不断增长,逼近风冷12KW—15KW散热极限,继续采用风冷散热,将导致行间空调需求数量陡增,高密度散热场景下液冷方案成本和性能优势显著。
上述资深人士也表示:“目前GPU最大的是700W,下一代据说将达到1KW至1.4KW。这时候再用风冷散热,一是效果(不好),二是噪声(大),就会有各种问题需要解决。简而言之,算力密度的提升下,风冷已经满足不了,必须配液冷。”
值得一提的是,除了数据中心,终端PC或将在AIGC时代下,进入AI PC时代。那么,AI PC是否也将催生液冷需求?
对此,该人士认为:“现在很多电脑是跑不动本地端大模型、跑不动本地端推理的。能否跑得动,重点看电脑是否有GPU显卡。比如消费级英伟达4090、3090,或者说至少有这种(高端)独立显卡。”
关于终端PC散热,其表示:“端侧其实(应用液冷)更加积极,很多游戏玩家都用液冷散热。因为对游戏玩家而言,他的改造量很小。而数据中心涉及基础设施的改造。”
若未来AI PC逐渐普及,该人士判断:“我觉得液冷的使用率将越来越高。”
据悉,液冷有浸没式、冷板式等多种技术路线。随着液冷的火热,哪些技术路线将会受益呢?
根据赛迪数据,中国液冷数据中心市场规模保守估计将由2019年的260.9亿元增至2025年的1283.2亿元,其中冷板式数据中心市场规模2025年保守估计可超过750亿元,年复合增长率为22%;浸没式液冷数据中心市场规模2025年保守估计可超过500亿元,年复合增长率达到46%。
开源证券研报认为,冷板式液冷相对成熟,浸没式液冷长期发展空间大。冷板式方面,单相冷板式液冷作为非接触式液冷的一种,行业内具有10年以上的研究积累,在主流液冷方案中技术成熟度最高,对现有服务器芯片组件及附属部件改动量较小,过渡平缓,是解决大功耗设备部署、提升能效、降低制冷运行费用、降低TCO(总拥有成本)的有效应用方案。
而浸没式液冷可完全去除散热风扇(噪音更低),换热能力强,节能效果好,数据中心PUE(电能利用效率)值可降至1.1及以下,但一般需要改为箱式部署,部署密度一般低于冷板式液冷,机房配套和服务器改造难度和成本也较大。
上述资深人士认为:“个人理解,还是以冷板式为主。冷板式落地会更快速一点,而浸没式对现有的设施改造比较多。此外,冷板式也更容易形成专业化分工,浸没式目前主要还是整体解决方案。”
液冷国内厂商方面,英维克是国内领先的精密温控节能解决方案和产品提供商,产品广泛应用于数据中心、算力设备、电化学储能系统、通信网络、电力电网、电动汽车充电桩、工业自动化等领域的设备散热。
据英维克2023年半年报,其机房温控节能产品、机柜温控节能产品营收分别为4.60亿元和6.61亿元,占营收比重分别为37.15%和53.38%。
而飞荣达主要产品为电磁屏蔽材料及器件、导热材料及器件和其他电子器件,是中国领先的、创新型专业电磁屏蔽及导热解决方案服务商。其热管理材料及器件包括导热界面器件、石墨片、导热石墨膜、散热模组、风扇、VC均温板、热管、压铸件及液冷板等。
2023年上半年,飞荣达热管理材料及器件营收7.04亿元,占营业收入比约为39.59%。
随着AI技术的飞速发展和AIGC时代的来临,液冷技术在数据中心的应用变得日益重要。液冷技术不仅能够显著提升数据中心的能效和散热性能,还能够降低噪音和运营成本,这对于追求高效率和可持续运营的数据中心来说至关重要。
封面图片来源:视觉中国
1本文为《每日经济新闻》原创作品。
2 未经《每日经济新闻》授权,不得以任何方式加以使用,包括但不限于转载、摘编、复制或建立镜像等,违者必究。