E242｜最快半年 AI 跑通自进化？与陈天桥首席科学家聊聊硅谷模型必争之地
硅谷101
6 DAYS AGO
E242｜最快半年 AI 跑通自进化？与陈天桥首席科学家聊聊硅谷模型必争之地
E242｜最快半年 AI 跑通自进化？与陈天桥首席科学家聊聊硅谷模型必争之地
硅谷101
6 DAYS AGO
从 ChatGPT 掀起生成式 AI 浪潮到现在，不过短短两三年，AI 能力的进化速度已经让 "AI 自我进化" 这件事从科幻走进了现实。上个月，Anthropic 在一份公开报告中预测，AI 未来将进入 "递归自我提升"（Recursive Self-Improvement, RSI）阶段，并呼吁人类共同为 AI 的发展设计出一个减速或暂停机制。
AI 自我进化会以多快的速度到来？未来的 AI，它会在通往真理的道路上与人类并肩作战，稳步破解医学、气候等种种难题，还是会在暗处走向失控？
本期播客，泓君邀请到专注做 “发现模型” 的 AI 公司 Apodex 的两位首席科学家，杜少雷和 Beibin，一起聊聊 AI 的自我进化与自我验证。
Apodex 是一家陈天桥出资创立并亲自主导的公司，这家公司给自己的定位也非常的特别，他们只做一件事 —— heavy duty solver，意思是专啃那些没有标准答案，人类自己都不知道从哪下手的难题。他们管自己想做的模型叫做 discovery model。不是从已知的信息里面找答案，而是要提出人类还没有想到过的假设，自己想办法去验证它，去解决这个世界上还没有被解决的科学难题。
嘉宾预言，最快半年，AI 就能跑通一次完整的自我进化闭环。但要实现持续的、可靠的递归提升，模型必须具备 “自我验证” 能力。这很像人类科学家的基本功：大胆假设，小心求证。而要让 AI 做到这一点，关键的前提是 —— 教会大模型真正拥有科学家一样的品味和判断力。
AI 自我进化会以多快的速度到来？未来的 AI，它会在通往真理的道路上与人类并肩作战，稳步破解医学、气候等种种难题，还是会在暗处走向失控？
本期播客，泓君邀请到专注做 “发现模型” 的 AI 公司 Apodex 的两位首席科学家，杜少雷和 Beibin，一起聊聊 AI 的自我进化与自我验证。
Apodex 是一家陈天桥出资创立并亲自主导的公司，这家公司给自己的定位也非常的特别，他们只做一件事 —— heavy duty solver，意思是专啃那些没有标准答案，人类自己都不知道从哪下手的难题。他们管自己想做的模型叫做 discovery model。不是从已知的信息里面找答案，而是要提出人类还没有想到过的假设，自己想办法去验证它，去解决这个世界上还没有被解决的科学难题。
嘉宾预言，最快半年，AI 就能跑通一次完整的自我进化闭环。但要实现持续的、可靠的递归提升，模型必须具备 “自我验证” 能力。这很像人类科学家的基本功：大胆假设，小心求证。而要让 AI 做到这一点，关键的前提是 —— 教会大模型真正拥有科学家一样的品味和判断力。
【主播】
泓君，硅谷 101 创始人，播客主理人
泓君，硅谷 101 创始人，播客主理人
【嘉宾】
Simon Shaolei Du（杜少雷），Apodex 推理模型与训练首席科学家，华盛顿大学计算机科学与工程学院副教授
Beibin Li （李辈滨），Apodex 自我进化与编程首席科学家
Simon Shaolei Du（杜少雷），Apodex 推理模型与训练首席科学家，华盛顿大学计算机科学与工程学院副教授
Beibin Li （李辈滨），Apodex 自我进化与编程首席科学家
【你将听到】
自我进化背后的底层能力
03:00 AI 自我进化不是新概念，两三年前就有了
06:48 RSI 概念火了，背后是模型能力变强了，长程任务表现更好了
09:20 技术上如何训练 AI 做好长程任务？算法 + 数据 + infra
12:45 Coding 能力代表了模型自我进化的底层能力
14:29 用自我验证规避 “递归漂移”，代码领域相对可控
16:21 Apodex 的验证方法：多个子 agent 互相验证
19:11 自我进化三条路径：预训练、后训练、Harness
23:56 另一项关键能力 DeepResearch，Apodex 如何做到多个榜单第一？
29:19 技术范式决定了多个 agent 组团解决问题效果好于单个
31:18 模型自动进化后，会碾压 agent 团队吗？垂直领域护城河仍在
自我进化背后的底层能力
03:00 AI 自我进化不是新概念，两三年前就有了
06:48 RSI 概念火了，背后是模型能力变强了，长程任务表现更好了
09:20 技术上如何训练 AI 做好长程任务？算法 + 数据 + infra
12:45 Coding 能力代表了模型自我进化的底层能力
14:29 用自我验证规避 “递归漂移”，代码领域相对可控
16:21 Apodex 的验证方法：多个子 agent 互相验证
19:11 自我进化三条路径：预训练、后训练、Harness
23:56 另一项关键能力 DeepResearch，Apodex 如何做到多个榜单第一？
29:19 技术范式决定了多个 agent 组团解决问题效果好于单个
31:18 模型自动进化后，会碾压 agent 团队吗？垂直领域护城河仍在
自我进化关键一步 —— 学会提问
34:19 Apodex 定位：用 Discoverative 框架解决人类未解难题，不把 Token 当生意
36:18 “发现模型” 最难之处：提出超出经验范围的假设，并去验证
37:52 让 AI 像科学家一样提问，需要模型有更好的品味
43:31 如何避免大模型拍马屁？远离大众偏好
46:30 “AI 宪法” 定义性格，顶级科学家数据校准品味
34:19 Apodex 定位：用 Discoverative 框架解决人类未解难题，不把 Token 当生意
36:18 “发现模型” 最难之处：提出超出经验范围的假设，并去验证
37:52 让 AI 像科学家一样提问，需要模型有更好的品味
43:31 如何避免大模型拍马屁？远离大众偏好
46:30 “AI 宪法” 定义性格，顶级科学家数据校准品味
巩固品味，阻止 “跑偏”
51:33 AI 巨头都在做科研发现模型，判断问题价值是关键
55:32 不同于 AI for Science，Heavy Duty Solver 是通用模型，强调元能力
57:25 最快半年能跑通自我进化的第一个闭环，但解决递归漂移还需要 2-3 年
58:43 让科学家睡不着觉的问题：如何防止 AI “走火入魔”
01:00:04 解决方案仍靠人工手调，“自我蒸馏” 也许是个方法
01:04:28 人类只是 warm start，未来 AI 将形成自我品味，就像 AlphaZero
01:06:18 陈天桥与 Apodex：制定 “宪法”，聚焦 Heavy Duty Discovery
51:33 AI 巨头都在做科研发现模型，判断问题价值是关键
55:32 不同于 AI for Science，Heavy Duty Solver 是通用模型，强调元能力
57:25 最快半年能跑通自我进化的第一个闭环，但解决递归漂移还需要 2-3 年
58:43 让科学家睡不着觉的问题：如何防止 AI “走火入魔”
01:00:04 解决方案仍靠人工手调，“自我蒸馏” 也许是个方法
01:04:28 人类只是 warm start，未来 AI 将形成自我品味，就像 AlphaZero
01:06:18 陈天桥与 Apodex：制定 “宪法”，聚焦 Heavy Duty Discovery
【硅谷 101 听友群】
终于终于终于，大家一直呼吁的硅谷 101 的社群要上线了！欢迎大家加入。
请用手机相机扫码；如已安装飞书 / Lark，可直接在 App 内扫码进入申请表单。7 天内审核，通过后邮件同步入群方式。期待和你在群里碰面！
终于终于终于，大家一直呼吁的硅谷 101 的社群要上线了！欢迎大家加入。
请用手机相机扫码；如已安装飞书 / Lark，可直接在 App 内扫码进入申请表单。7 天内审核，通过后邮件同步入群方式。期待和你在群里碰面！
【监制】
泓君
【后期】
Amei
【运营】
朱婕
【BGM】
Light-Footed - Bonnie Grace
Reclaim - Megan Wofford
Charcoal Stream - Curved Mirror
泓君
【后期】
Amei
【运营】
朱婕
【BGM】
Light-Footed - Bonnie Grace
Reclaim - Megan Wofford
Charcoal Stream - Curved Mirror
【在这里找到我们】
公众号：硅谷 101
收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓 FM｜荔枝 FM｜网易云音乐｜QQ 音乐
其他平台：YouTube｜Bilibili 搜索「硅谷 101 播客」
联系我们：podcast@sv101.net
公众号：硅谷 101
收听渠道：Apple Podcast｜Spotify｜小宇宙｜喜马拉雅｜蜻蜓 FM｜荔枝 FM｜网易云音乐｜QQ 音乐
其他平台：YouTube｜Bilibili 搜索「硅谷 101 播客」
联系我们：podcast@sv101.net
Special Guests: 李辈滨 and 杜少雷.
