E10 前川:基因如何控制我们,我们就如何控制超级智能
橘座
5 DAYS AGO
E10 前川:基因如何控制我们,我们就如何控制超级智能
E10 前川:基因如何控制我们,我们就如何控制超级智能

橘座
5 DAYS AGO
前川从多智能体实验、基因与生物系统出发,讨论人类如何在无法实时控制超级智能的情况下,通过自我强化、复杂度、多样性和相互约束,找到与未来智能共同演化的路径。
本期围绕超级智能时代的人类命运展开。前川认为,面对变化速度远超人类的智能体,关键不是试图预先设计一切或进行实时控制,而是建立能够自我强化、持续演化并内部对齐的系统。他从基因如何用极少规则塑造复杂生命谈起,提出复杂度、多样性和未来选择权可能成为碳基与硅基共同认可的价值;又从货币、Token、免疫系统和互联网安全机制出发,设想未来智能社会的能量、信息与安全结构。最终,他把人类与 AI 的结合放进更大的宇宙尺度,认为碳基和硅基生命才刚刚开始共同演化。
01:59
01:59
智能体制定的规则未必与人类有关
06:29
06:29
关键是设计一个自我强化的系统
15:54
15:54
基因只用几个 GB 解决了所有焦虑
21:34
21:34
复杂度决定未来的选择权
28:03
28:03
在理性的约束下,对未来保有最大的善意假设
32:02
32:02
基因用简单规则实现对齐
40:27
40:27
比特币的命运在设计之初就已注定
45:22
45:22
系统可以从一个很小的切入点开始生长
56:48
56:48
互联网反而治好了病毒焦虑
59:15
59:15
每次问题都会新增解决方案
1:04:18
1:04:18
宇宙才刚刚开头
1:07:41
1:07:41
不同星系可能是不同的个体