在 AI 算力争霸时代，英伟达凭借 GPU 市值一路狂飙。但如今，它的蛋糕正在被一点点分食 ——2024 年，苹果论文披露 Apple Intelligence 全部由 TPU 训练；2025 年，Anthropic 签下数十亿美元订单，购买 TPU 训练 Claude；近期，Meta 与谷歌签署数十亿美元协议，租用 TPU 跑 Llama。
TPU 一直是谷歌低调的 “自家武器”，在过去十年里驱动着几乎全部核心产品。直到 TPU 训练的 Gemini 3 打了一场漂亮的翻身仗，人们才开始重新审视：这套从搜索推荐系统中长出来的定制芯片，究竟藏着多少秘密？
本期播客，我们邀请到前谷歌 TPU 工程师 Henry。他在 2018 年至 2024 年间深度参与了三代 TPU 的研发，也见证了大模型时代 TPU 的关键转型。他将从硬件架构、软件生态、生产供应链三个维度，一层层揭开 TPU 的神秘面纱。
我们将深入探讨：TPU 与 GPU 的架构有何根本不同？TPU 的产能瓶颈卡在哪里？当谷歌开始向 Anthropic、Meta 开放 TPU，它在软件生态上要迈过哪些坎？如果未来模型的底层范式发生改变，TPU 还能押准方向吗？而最关键的问题是：TPU 真的有机会撼动英伟达的霸主地位吗？

【主播】
泓君，硅谷 101 创始人，播客主理人
【嘉宾】
Henry Zhu，前 Google TPU 工程师，参与 V6/V7/V8 TPU 研发

【你将听到】
TPU 挑战 GPU
03:06 架构对决：GPU 像多个大厨，TPU 像流水线接力
06:41 TPU vs GPU：谁在模型训练上更强？
10:20 TPU 产能之困：HBM、封装与良率

XLA 软件黑盒
14:06 Anthropic 为何率先下单百万部署？
16:01 黑盒优化如何 “榨干” 硬件性能
17:47 XLA 与 CUDA，两种生态之争
19:53 苹果为什么能成为 TPU 大客户？

“大模型客户”
20:45 Gemini 成功背后，TPU 做了什么？
22:34 TPU 是如何做 MoE 优化的？
23:45 设计难点：如何押中两三年后的算法？
26:05 TPU 的转身：V6 开始押注大模型预训练
28:53 Transformer 先发优势带来的旗鼓相当能持续多久？
32:04 Meta 的 TPU 托管服务：生态逐渐走向兼容

供应链命门
36:08 拓扑通信架构如何为 TPU 打赢数据中心成本战
38:27 博通（Broadcom）是谁？为什么它如此关键
42:04 挑战 GPU 的机会：用户规模越大推理越快
45:36 V7（Ironwood）之后：Gemini 实现 100% TPU 训练
48:15 一句话总结 TPU 优劣势

TPU 十年进化史
49:49 V1 推理芯片试水，V2 训练芯片旗舰，V4 优化推荐算法
52:16 V5 / V6：进入大模型时代，推出推理专用版本
56:05 团队演变：软件组话语权越来越重

新星 Groq
57:14 踩准每一次红利的编译器公司
59:27 差异化定位：做小规模部署的低延迟优化
01:01:59 AI 算力芯片新战局

【更正】
54:20 口误，Groq 创始人 Jonathan Ross，现为英伟达首席软件架构师

【监制】
泓君
【剪辑】
小师 Jacob
【运营】
朱婕
【BGM】
Virtuoso Violin - Rafael Krux
Angular Pulse - Guy Copeland
Top Flow - This Violin

【在这里找到我们】
公众号：硅谷 101
收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓 FM｜荔枝 FM｜网易云音乐｜QQ 音乐
其他平台：YouTube｜Bilibili 搜索「硅谷 101 播客」
联系我们：podcast@sv101.net

Special Guest: Henry Zhu.