scripod.com

商业小样 43 | AI 时代,谁在给服务器 “降温”

商业就是这样

Shownote

本期节目,我们继续关注 AI 时代重要但不为人熟知的基础设施。大模型的竞争,很大程度上是算力的竞争,各大巨头正每年投入数千亿美元,掀起了数据中心的建设热潮。 但是数据中心并不是一块块 GPU 的堆叠,它更像是工厂,需要许多复杂系统的互相支持,才能真正运转起来。 这其中,冷却系统就是重要一环。随着服务器的运转功率密度持续提升,数据中心成了一个巨大的热源,如果不能有效冷却,那么轻则宕机,重则让整个中心崩溃。甚至整个冷却系统本身就是数据中心提升效率的重点之一。 而这一系统背后的经验累积,则来自一个与我们日常生活息息...

Highlights

本期节目深入探讨了 AI 时代一个至关重要却常被忽视的基础设施 —— 数据中心的冷却系统。随着算力竞赛白热化,数据中心正从简单的 GPU 堆叠转变为复杂的 “算力工厂”,而如何有效管理其产生的巨大热量,已成为决定效率与稳定性的关键。
00:01
算力需求爆发推动数据中心建设
03:18
算力竞争也是水技术竞争
06:59
优化后可降低高达 70% 的能耗
10:04
AI 发展依赖基础设施革新

Chapters

算力工厂的 “发烧” 难题:为什么传统风冷不够用了?
00:00
从风冷到液冷:冷却技术如何应对功率密度的飙升?
03:18
节能的关键:如何让冷却系统从 “耗电大户” 变成 “增效利器”?
06:59
预制化与智能化:冷却系统如何像搭积木一样快速部署?
10:04

Transcript

肖文杰: 大家好,我是肖文杰。 约小亚: 我是约小亚。 肖文杰: 最近我们有很多期节目其实都有一条引线,就是来聊 AI 背后不为人熟知的基础设施。那今天聊的内容也是这条线索的一个延伸。我们来聊聊大模型背后的数据中心。 约小亚: 在上一个互联网时代,数据中心更多是后台的设施。它就是用来存储一些数据,然后支持用户访问网站,就是很多服务器。但是到了 AI 时代,数据中心就开始承担一些大模型的训练和推理的任务。无论是 GPT 还是自动驾驶的大模型,或者是企业级的 AI 应用,其实都需要数据中心里面的,很多很多 GP...