AI基础设施
AI领域下一个万亿级瓶颈不是算法,而是电力和散热
生成式AI的爆炸式增长暴露了一个硬性限制:大规模训练和服务模型所需的物理基础设施。超大规模云服务商、芯片设计商以及一批专注于能源的初创公司正投入资金,重新思考数据中心、散热和电力输送方式,押注AI竞争的下一个前沿是基础设施,而非算法。
过去两年,围绕人工智能的公众讨论一直聚焦于一个单一指标:参数数量。更大的模型、更好的基准测试、推理能力的又一次飞跃。但在各种发布公告背后,另一场军备竞赛正在展开, , 这场竞赛并非在代码中进行,而是在混凝土、铜缆和冷却塔中展开。 the-17-articles-that-will-define-2025s-tech-narrative
问题很简单。自2018年以来,训练前沿模型所需的计算能力大约每六个月翻一番,而晶体管密度和芯片性能的效率提升却已趋于停滞。摩尔定律, , 芯片上晶体管数量大约每两年翻一番的观察结论, , 实际上已经放缓。其结果是,数据中心行业从未设计来满足的对电力、空间和热管理的空前需求。 nvidia-nemo-automodel-delivers-37x-faster-moe-fine-tuning-via-expert-parallelism-and-deepep
需求与物理定律的完美风暴
训练像GPT-4或Gemini Ultra这样的大型语言模型,可能连续数周消耗数十兆瓦的电力,相当于一个小镇的用电量。已部署模型服务的每一次查询都会增加不可忽视的能源成本,乘以每天数十亿次请求,推理便成为任何规模化运营公司资产负债表上一个重要的支出项目。
瓶颈并不仅限于发电本身。传统上,数据中心是为运行那些可以调度、暂停和排队的工作负载而建造的,而不是为现代AI加速器所产生的持续、高密度的热负荷。例如,一块英伟达H100 GPU在负载下功耗可达700瓦,而装满了数十块此类芯片的机架产生的热密度会压倒传统的风冷系统。
液冷曾是超级计算实验室的小众解决方案,如今已从新奇变为必需。包括Equinix和Digital Realty在内的几家主要托管服务商已开始改造其设施,采用直接芯片冷却和浸没式冷却技术。这一转变昂贵且缓慢,但它已经在重塑云巨头客户选择在哪里以及如何建设数据中心。
超大规模云服务商的回应与初创公司的机遇
超大规模云服务商, , 亚马逊云服务(AWS)、微软Azure和谷歌云, , 各自运行着自己的策略手册,但方向是一致的:建得更大、建得更不同、建得离可用电源更近。亚马逊已宣布计划在未来十年内投入超过1500亿美元用于数据中心基础设施。微软已承诺大约每两年将其全球数据中心容量翻一番,特别侧重于爱尔兰、瑞典等可再生能源丰富的地区。 inside-meta-ai-the-lab-betting-billions-on-open-source-intelligence
然而,仅靠超大规模云服务商无法以市场要求的速度解决基础设施差距。一批新的初创公司押注,下一个万亿级市场不在于构建更大的模型,而在于重新构想AI运行的物理基础。像Crusoe Energy这样的公司,在伴生气井处部署模块化数据中心,捕获原本会燃烧掉的天然气作为电源,开创了“表后”计算模式。其他公司如CoreWeave,最初是一家加密货币挖矿运营商,后来转型成为最大的GPU加速云算力提供商之一,其租用的英伟达硬件规模可与超大规模云服务商相媲美。 y-combinators-new-ai-stack-gives-students-25000-in-free-credits
冷却问题
如今,冷却约占数据中心运营预算的30%到40%。随着热负荷上升,除非新的方法改变这一局面,否则这一数字预计还会攀升。浸没式冷却, , 将服务器浸入非导电介质液体中, , 可以消除风扇并大幅减少用于排热的能源消耗。包括Submer和LiquidStack在内的多家供应商现已销售预制的浸没式冷却系统,与传统风冷相比,可将冷却功耗降低高达90%。
但这种转变需要资本成本。为浸没式冷却改造的设施需要新的地面布局、液体处理系统以及维护流程,这些都与数十年的运营实践大相径庭。运营商面临一个选择:承担前期费用并为未来做好准备,或者冒险持有无法支持下一代加速器的资产。
地缘政治维度
基础设施竞赛与地缘政治密不可分。对先进半导体, , 尤其是英伟达的H100和即将推出的B100芯片, , 的出口管制,迫使一些国家和地区加速自身的芯片和数据中心计划。欧盟通过其《芯片法案》和欧洲高性能计算联合项目(EuroHPC Joint Undertaking),正在资助建设面向AI优化的超级计算机,以便成员国无需依赖美国供应链就能使用算力。与此同时,中国尽管面临出口限制,仍在大力投资国产芯片设计和数据中心建设。 anthropic-launches-claude-founder-house-in-paris-to-unite-europes-ai-startup-ecosystem
其结果是形成了一张碎片化的全球基础设施地图,其中电力与物理定律, , 而不仅仅是市场需求, , 正在决定下一个十年的计算能力将落在何处。
结论
AI行业最受瞩目的进步, , 从GPT-4到Claude 3再到Gemini, , 都建立在一个正在被推向极限的物理基础设施之上。那些解决了基础设施难题的公司, , 无论是通过新的冷却技术、替代能源采购,还是更高效的芯片设计, , 将获得超越任何单一模型发布的优势。通往AI前沿下一阶段的竞赛,不仅仅在实验室里进行,也在数据中心里进行, , 一次一瓦特。 openais-gpt-56-launch-rewrites-the-economics-of-frontier-ai