scripod.com

91. 逐篇讲解 DeepSeek 关键 9 篇论文及创新点 ——“勇敢者的游戏”

2025 年这个春节,DeepSeek 一举改写了全球 AGI 大叙事。在万般热闹之际,我们特别想沉下来做一些基础科普工作。
在《商业访谈录》89 集节目中,我邀请了加州大学伯克利分校人工智能实验室在读博士生潘家怡,为大家对照解读了春节前的 DeepSeek-R1-Zero、R1、Kimi 发布的 K1.5,以及 OpenAI 更早发布的 o1 技术报告。这些模型聚焦的都是大模型最新技术范式,RL 强化学习,简单来说就是 o1 路线。
今天这集,我邀请的是香港科技大学计算机系助理教授何俊贤。他的研究方向是大模型推理,从很早就开始关注 DeepSeek 的系列研究。我们会 focus 在最近引发全球 AI 届关注的 DeepSeek 上。
何老师将带领大家从 DeepSeek 的第 1 篇论文开始,阅读经过挑选的这家公司历史上发布的 9 篇论文。
我们希望帮助大家从一个更延续、更长期、也更技术底层的视角来理解 DeepSeek,以及它所做的复现与创新工作;与此同时也希望能让更多人感受到技术之美
(如果如果,你觉得光听还不够刺激,觉得一定要坐在电脑前看着投屏、拿起纸笔学习更有沉浸感… 如果你实在是真心想要找虐的话… 请前往:含投屏的视频版本。嘿嘿!预祝你学习顺利啦!2025 我们和 AI 共同进步!)
我们的播客节目在腾讯新闻首发,大家可以前往关注哦,这样可以第一时间获取节目信息和更多新闻资讯:)
03:01讲解开始前,先提问几个小问题
整体风格:Open、Honest、低调、严谨的科学态度
DeepSeek 基座模型
21:00 《DeepSeek LLM
Scaling Open-Source Language Models with Longtermism》技术讲解
45:48 《DeepSeekMoE: Towards Ultimate Expert Specialization in Mixture-of-Experts Language Models》技术讲解
01:06:40 《DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model》技术讲解
01:40:17 《DeepSeek-V3 Technical Report》技术讲解
DeepSeek 推理模型
02:05:03 《DeepSeek-Coder: When the Large Language Model Meets Programming - The Rise of Code Intelligence》技术讲解
02:12:16 《DeepSeek-Coder-V2: Breaking the Barrier of Closed-Source Models in Code Intelligence》技术讲解
02:47:18 《DeepSeek-Prover: Advancing Theorem Proving in LLMs through Large-Scale Synthetic Data》和《DeepSeek-Prover-V1.5: Harnessing Proof Assistant Feedback for Reinforcement Learning and Monte-Carlo Tree Search》技术讲解
02:52:40 《DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning》技术讲解
03:01:419 篇论文到这里都讲完啦!最后我们一起强化学习一下!
关于强化学习往期节目:

AGI 范式大转移:和广密预言草莓、OpenAI o1 和 self-play RL|全球大模型季报 4

和 OpenAI 前研究员吴翼解读 o1:吹响了开挖第二座金矿的号角

王小川返场谈 o1 与强化学习:摸到了一条从快思考走向慢思考的路

逐句讲解 DeepSeek-R1、Kimi K1.5、OpenAI o1 技术报告 ——“最优美的算法最干净”

开源一场关于 DeepSeek 的高质量闭门会:

一场关于 DeepSeek 的高质量闭门会:“比技术更重要的是愿景”

【更多信息】
联络我们:微博@张小珺 - Benita,小红书@张小珺
更多信息欢迎关注公众号:张小珺