scripod.com
E242｜最快半年AI跑通自进化？与陈天桥首席科学家聊聊硅谷模型必争之地

Overview

Shownote

Highlights

Transcript

Chapters

Pins

E242｜最快半年 AI 跑通自进化？与陈天桥首席科学家聊聊硅谷模型必争之地

硅谷101

6 DAYS AGO
硅谷101

硅谷101

6 DAYS AGO
OverviewShownoteHighlightsTranscriptChaptersPins

Shownote

从 ChatGPT 掀起生成式 AI 浪潮到现在，不过短短两三年，AI 能力的进化速度已经让 "AI 自我进化" 这件事从科幻走进了现实。上个月，Anthropic 在一份公开报告中预测，AI 未来将进入 "递归自我提升"（Recursive Self-Improvement, RSI）阶段，并呼吁人类共同为 AI 的发展设计出一个减速或暂停机制。 AI 自我进化会以多快的速度到来？未来的 AI，它会在通往真理的道路上与人类并肩作战，稳步破解医学、气候等种种难题，还是会在暗处走向失控？ 本期播客，泓君邀请到专注做 “发现模型” 的 AI 公司 A...

Highlights

本期播客邀请 Apodex 首席科学家杜少雷和李辈滨，深入探讨 AI 自我进化（RSI）与发现模型的前沿话题。他们指出，AI 能力已从科幻走向现实，Anthropic 预测的递归自我提升阶段即将到来，而 Apodex 专注于解决无标准答案的科学难题，通过自我验证和多智能体协作避免递归漂移。
00:02
通过自我验证和多个子 agent 互验避免递归漂移
05:14
自进化概念并非全新
08:43
大模型处理任务时长每七个月翻倍
09:20
AI 需自主完成多步骤复杂工作
12:45
编码能力是模型自我进化的核心底座
14:29
递归漂移导致推理错误代代累积
18:41
强化学习中让裁判同步学习以避免奖励黑客
23:25
验证能力需要专门训练
23:56
搜索能力对后训练至关重要
29:19
模型能力与工程优化相辅相成，能实现一加一大于二的效果
33:46
模型与脚手架需协同进化
34:22
专注解决人类未解决的难题
36:18
发现模型的核心是提出新颖且难以从预训练数据中获得的假设
42:08
顶级科学家的核心价值在于品味
45:32
由顶尖专家标注，从源头确保公正
50:10
模型也能获得顶级科学家的品位
51:33
比拼的是执行力和组织架构
55:33
Heavy Duty Solver 侧重元能力，不针对特定领域大量训练
57:26
最快半年内可跑通闭环的一环
58:43
确保 AI 行为不偏离人类需求是最大挑战
1:04:00
自我进化的最后一道坎是递归漂移
1:04:40
AI 会像 AlphaZero 一样形成自我品位
1:08:22
陈天桥更专注于 AI for Science，对聊天、视频生成不感兴趣

Chapters

AI 自我进化与发现模型探讨
00:00
自我进化背后的底层能力
AI 自我进化不是新概念，两三年前就有了
03:00
RSI 概念火了，背后是模型能力变强了，长程任务表现更好了
06:48
技术上如何训练 AI 做好长程任务？算法 + 数据 + infra
09:20
Coding 能力代表了模型自我进化的底层能力
12:45
用自我验证规避 “递归漂移”，代码领域相对可控
14:29
Apodex 的验证方法：多个子 agent 互相验证
16:21
自我进化三条路径：预训练、后训练、Harness
19:11
另一项关键能力 DeepResearch，Apodex 如何做到多个榜单第一？
23:56
技术范式决定了多个 agent 组团解决问题效果好于单个
29:19
模型自动进化后，会碾压 agent 团队吗？垂直领域护城河仍在
31:18
自我进化关键一步 —— 学会提问
Apodex 定位：用 Discoverative 框架解决人类未解难题，不把 Token 当生意
34:19
“发现模型” 最难之处：提出超出经验范围的假设，并去验证
36:18
让 AI 像科学家一样提问，需要模型有更好的品味
37:52
如何避免大模型拍马屁？远离大众偏好
43:31
“AI 宪法” 定义性格，顶级科学家数据校准品味
46:30
巩固品味，阻止 “跑偏”
AI 巨头都在做科研发现模型，判断问题价值是关键
51:33
不同于 AI for Science，Heavy Duty Solver 是通用模型，强调元能力
55:32
最快半年能跑通自我进化的第一个闭环，但解决递归漂移还需要 2-3 年
57:25
让科学家睡不着觉的问题：如何防止 AI “走火入魔”
58:43
解决方案仍靠人工手调，“自我蒸馏” 也许是个方法
1:00:04
人类只是 warm start，未来 AI 将形成自我品味，就像 AlphaZero
1:04:28
陈天桥与 Apodex：制定 “宪法”，聚焦 Heavy Duty Discovery
1:06:18

Transcript

泓君: 哈喽大家好，欢迎收听硅谷 101, 我是泓君。最近 Anthropic 他承认了一件事，他们现在 80% 的代码已经不是人写的，是 Cloud 自己写的。这家全世界最谨慎的 AI 公司同时发出了一个警告，AI 可能很快就要自己设计，自己去训练下一代的 AI 了。他们管这个叫做递归自我提升，英文是 RSI，也是硅谷今年对模型能力最热的讨论方向之一。那今天这期节目呢，我们的含金量高了，我们请到了两位真正正在做这件事情的研究员。他们所在的公司叫做 Apodex，背后是陈天桥出资创立并亲自主导的。那这家公司...