6 月 24 日晚，OpenAI 第一次把和博通做的推理芯片 Jalapeño 拿出来给人看——专门跑 推理，年底自己用，不外卖。

同一天圈子里还在转两组数，说的是两件不同的事：

1. 1. TrendForce（5 月）：北美几家大云，2026 年推理算力部署同比 +122%，训练只有 +56%。意思是 行业里多铺了一倍多推理集群，不是某次聊天突然贵 100 倍。 
2. 2. Deloitte《2026 TMT Predictions》：test-time scaling（模型「长思考」、推理链拉长）相对 简单推理——原文举例是 summarize an email（总结一封邮件）——算力 可以超过 100 倍。这是 复杂任务和轻量任务 的差别，不是每条 Agent 回复都 100 倍。

跟 Jalapeño 同一天上热搜的，还有 Rubin 的 Agentic AI、高通的 CPU + 加速器、灵晟 超算拿 TOP500 第一——全液冷直接写进系统里。

算力暴涨，从来不只是「多买几张卡」——有时候是 同一套集群，上面的任务变重了。

很多人刷到这些新闻，停在「模型又强了」。再往下想一步，才会碰到一个不那么性感的问题：这些算力最后落在哪儿？ 不是抽象的云，是 机柜、电缆、冷水、电——不妨叫「底下那层楼」。2026 年这层楼的问题，是 还在按「训练档」盖，但上面跑的任务已经是推理和 Agent 了。

---

先把「翻倍」拆开——三种负载，三种脾气

「翻倍」三个字太糊。行业里至少有三类东西在涨，热负载形态完全不一样：

负载	2026 大家在聊什么	像什么	底下那层楼容易踩的坑
训练	大模型预训练、万卡集群	短跑冲刺——批次拉满、跑完就歇	按 峰值功率盖场地，逻辑还说得通
推理	Jalapeño、私有化部署、7×24 在线服务	马拉松——一直热着，偶尔再来一波高峰	场地仍按冲刺标准估，平均热负荷被低估
Agent / 长思考	多步推理、工具调用、test-time scaling	间歇猛冲——简单问答不贵，复杂任务可差 10×–100×（Deloitte 估算）	只加卡，冷水和电的平均能力没跟着加

训练像冲刺，推理像长跑——跑鞋可以一样，场地不能是一套标准。

换成大白话：训练可以按「最猛那一下」去配电力和散热；推理得按「一直开着」去配；Agent / 长思考还得留出「某几步突然猛冲」的余量。很多项目的问题，是 卡还在按冲刺标准买，任务已经是马拉松了。

---

倒推三层：从 AI 新闻，往回看「房子」

左列是 AI 侧在发生什么，右列是 算力真要落地时，底下谁先得动。

层级	AI 侧（2026）	算力/热 变了什么	底下那层得跟着动什么
用法	Agent、长思考、推理专用芯片	推理 部署 +122% YoY；复杂任务算力 10×–100×（相对轻量推理）	规划从「峰值训练」→ 平均负载 + 突发
机柜	Rubin 2300W、100% 液冷、整柜 NVL72	一柜 120kW+；风冷基本没退路	整柜液冷、大功率配电；不是贴块冷板就完事
园区	算力短缺、2030 全球机房电力 200–300GW（Apollo 6 月）	兆瓦级 电 + 全年散热	变压器、集中供冷（CDU）、一次侧 45℃温水；PUE 越卡越严（算 1 度电有多少用在算力上，而不是空调上）

芯片订到了，电和冷水没到位，照样跑不满——缺的不一定是 GPU。

拆开看：

1. 1. 用法层决定「忙不忙」——Agent 时代，忙的是 平均，不是偶尔拉满那一次。 
2. 2. 机柜层决定「热不热」——Rubin 这一代，机柜本身就是 系统产品，不是旧机房拼拼凑凑。 
3. 3. 园区层决定「能不能长期跑」——新闻里「GPU 售罄」，现场经常是 电和 CDU 先卡脖子。

NVIDIA 6 月讲的 45℃ 全液冷 + 干冷器，动的是 机柜和园区的接缝：机柜敢用更热的冷水，园区才少靠冷却塔、少耗水。

---

为什么散热老被拿出来说

这条链，跟是不是做机房的也有关系：

算力往上走 → 单柜越来越烫（80kW 往 120kW+ 跳）→ 风冷先扛不住（再高就要靠液冷把热接走）→ 液冷成了默认选项 → 新的卡点变成 电够不够、冷水够不够、进水温度行不行。

国内政策也在往这个方向推：新建大型 AI 智算中心要配液冷，各地对 PUE（每耗 1 度电，有多少真正用在算力上）的要求也越来越严——不是宣传口号，是 立项和验收会卡 的指标。Rubin 的参考设计把 100% 液冷 写进部署前提，也是同一逻辑：芯片一代比一代烫，机房不能还按风冷时代留余量。

AI 变聪明了，底下那层楼也得跟着长高——不然聪明只能停在 PPT 里。

机柜里热起来之后，热要经过 冷板 → 管路 → 机柜外的 CDU → 园区冷水，任何一段接不好，GPU 都会降频。高功率场景下，冷板式两相液冷 的价值，是把 120kW 这一档的热 稳稳接进现有园区冷水系统里，而不是多堆几个材料名词。冷泉能控在做的事，就是 机柜侧和园区侧怎么对接、怎么验收、怎么长期跑——把「能跑满算力」做成可交付的工程，而不是 PPT 上的参数。

明天（6/26） 单独聊 2300W 热栈：热从芯片到冷水，中间每一段怎么分段、哪里最花钱。今天先说到这儿：算力翻一轮，底下谁先升级。

---

FAQ

Q：100 倍算力是不是夸张？
A：要是理解成「一句话 100 倍」，那就夸张了。 Deloitte 说的是 长思考、复杂推理 对比 总结邮件那种简单推理。普通聊天到不了 100 倍；推理模型 「想太久」 的任务才会飙。前面说的 +122% 是 部署增速，说的是行业在 多铺推理算力。

Q：和 2024 年「AI Agent 为什么需要更多液冷」是一回事吗？
A：不是。旧文讲 为什么要液冷；这里用 2026 的新数据（+122%、Jalapeño、Rubin Agentic）梳理 升级顺序，不是站队。

Q：不做机房，看这些有什么用？
A：刷 AI 新闻时多一个角度：模型能力往上走，底下基础设施往往要换档。投研、采购、写方案、选云，都能用上面那张表判断 瓶颈在软件，还是卡在电和冷。

Q：只有英伟达 GPU 吗？
A：高通、Meta CPU 那条线说明 异构算力 来了——机柜里热密度不再整齐划一。混合机柜怎么分区供冷，以后可以单独聊；机柜→园区这条逻辑不变。

---

最近刷到的 AI 新闻，你觉得更像 短跑（训练）、长跑（推理），还是 偶尔猛冲几步（Agent）？

---

往期：

#AI算力 #Agent #大模型 #液冷 #Rubin #AI与液冷