scripod.com

174. 我们还能给算法当多久的品味老师?|对谈亚马逊 AGI 查晟

起朱楼宴宾客

18 HOURS AGO
起朱楼宴宾客

起朱楼宴宾客

18 HOURS AGO
2026 年的年度专题“算法纪”聚焦算法与媒体,第四集我们从业内视角解读人类在 AI 时代应如何应对 “认知负债” 等问题。
大家好,我是大卫翁,"起朱楼宴宾客" 是我用来记录这个大时代的播客节目。
对谈嘉宾介绍:
查晟,亚马逊 AGI 部门基础研究团队负责人。
如果说这个系列的前几期讲的是算法如何定义身份,那么这一期我们在讲算法时代人怎么不被一起拖下去。
简明时间轴:
06:00 最近几个月行业内最让查晟意外的是,虽然开源模型缺乏 “数据飞轮”,但中国团队仍在坚持
18:12 “模型塌缩(Model Collapse)” 问题:AI 用 AI 生成的内容训练,性能会逐代退化。
延伸阅读:Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). "AI models collapse when trained on recursively generated data." Nature, 631(8022), 755–759. DOI: 10.1038/s41586-024-07566-y 2024 年 7 月 24 日

22:17 当前 AI 的自我迭代仍高度依赖人类的品味(Taste)来定义问题和指引优化方向

26:57 “认知负债(Cognitive )” 问题:过度依赖 AI 导致的注意力、工作记忆、语言处理能力下降。
MIT Media Lab 2025 年的研究:让一组人用 ChatGPT 写作,一组人不用。脑电图显示用 LLM 的人 alpha 和 beta 波在前额和颞顶区下降,这些是注意力、工作记忆、语言处理的核心区域。

31:40 “知识塌缩(knowledge collapse)” 现象:过度依赖大模型可能导致人类知识收敛于少数主流观点

36:27 AI 价值观由训练数据和人类反馈决定,目前缺乏广泛的外部监管

48:39 “主权 AI” 的战略意义:各国需要训练符合自身需求的大模型以防止文化同化

01:04:11 AI 展现跨领域解决难题的能力,要求人类向通才方向发展,培养跨领域的 “品味”,通识教育和掌握第一性原理变得尤为重要。

01:10:42 社会价值观的转变:从以生产为导向转向关注人际连接、影响力、艺术和自我提升

01:26:16 AI 时代的生存法则:接受通识教育、做会提问的人、注重人际关系
欢迎关注我的新书《资产配置行动指南》,解读和购买链接在这里:158. 播客里聊了四年的资产配置,我把它做成了一本《行动指南》
欢迎订阅我的 Substack 频道,它是一个以英文为主的频道:hubris2025.substack.com
欢迎关注我和雨白、小跑新制作的时事聊天节目《不熄灯 Lights On》
欢迎关注我的生活方式类节目《犬生活》,《纽约有一种气质叫 “都行”|和杨蒙恩的临别闲聊局》最新上线!
欢迎加入我的知识星球,我正在好好运营那一片后花园。
欢迎在评论区互动,或者给我写邮件,邮箱地址 qizhulouyanbinke@gmail.com。
节目 BGM:
Propellerheads - Spybreak! (来自 The Matrix)
Rage Against The Machine - Wake Up (来自 The Matrix)
节目后期:大卫翁