scripod.com

#683.Rich Sutton:大语言模型不是真正的智能,我们卡在了一个局部最优里

跨国串门儿计划
本期对话围绕一个根本问题展开:如果智能意味着在行动中理解世界、修正自己,那么今天的主流 AI 是否真的在学习?两位研究者从强化学习的思想出发,重新审视模型、经验与智能之间的关系。
讨论首先指出,持续学习并非特殊能力,而是生物智能的常态。现有大语言模型虽然证明了扩大算力和数据规模的威力,却也受限于互联网的边界;合成数据无法完整替代真实世界经验,因为模拟始终受到人类知识和判断的约束。真正的智能体应在部署后继续从行动与反馈中学习,而不是只依赖固定权重和不断增加的上下文。监督训练、学校教育只是学习的特殊形式,自主探索、试错和经验积累才是更普遍的机制。未来系统还需要形成抽象、建立世界模型、进行规划,并在吸收新知识时避免灾难性遗忘。为此,研究者探索持续反向传播、步长优化和不同参数的独立学习节奏。尽管新范式初期可能牺牲性能,但他们相信,能持续学习且保持知识一致性的智能体,或许将在未来数年逐渐成为现实。
00:00
00:00
持续学习才是智能的常态
17:01
17:01
算力最终会超越人类知识
18:50
18:50
真正的智能来自持续经验
33:29
33:29
真正的智能来自自主经验与抽象规划
39:02
39:02
持续学习的关键是避免灾难性遗忘
47:50
47:50
真正的智能来自持续的真实经验