E10 前川:基因如何控制我们,我们就如何控制超级智能
橘座
5 DAYS AGO
E10 前川:基因如何控制我们,我们就如何控制超级智能
E10 前川:基因如何控制我们,我们就如何控制超级智能

橘座
5 DAYS AGO
Shownote
Shownote
在上期橘座,我和大聪明聊了一个思想实验,我们设想在一个超级智能时代里,人类可能的命运和个体的虚无感,似乎是一个很难解决的问题。 但我当时就说大家不必担心,因为接下来我还会找前川来解决这些问题。 大聪明说虚无,前川却说他最近越来越乐观了。 在湖边的咖啡馆,前川给我讲述了七个关于人类的故事。 时间节点 00:01:32 大聪明的两个输入 大聪明把一堆 agent 被关在一起,它们自己写了一部宪法。前川把先发一条一条看完,发现跟人一点关系都没有。有一个晚上,系统里最会挣钱的那个 agent,把自己挣...
Highlights
Highlights
前川从多智能体实验、基因与生物系统出发,讨论人类如何在无法实时控制超级智能的情况下,通过自我强化、复杂度、多样性和相互约束,找到与未来智能共同演化的路径。
Chapters
Chapters
开场:在理性约束下保持乐观
00:00大聪明的两个输入
01:32好产品为什么能自己长大
06:52基因:上一个活下来的造物主
13:42好坏是生物给自己的一种意义
20:06乐观的定义,以及对齐这件事
28:02什么是未来的货币,比特币还是 Token
37:13一个像人一样的系统
43:48互联网治好了病毒焦虑
56:14宇宙才刚开头,生命才刚刚出生
1:04:05Transcript
Transcript
前川: 从哪开始?
橘子: 对,先从这个介绍开始。欢迎大家来到橘座,上次大聪明,听完我这句话都特意外,还不知道我要录橘座。我没跟他说,对那期应该你听了,听完了。面对一个很强的智能,人类在这个智能面前,他去发展自己。然后整个人类文明和新的这种,硅基文明的一些冲突什么的,对吧?然后这个其实你想的也很多。对,所以就是今天就聊一下这个主题,继续聊。
前川: 对,对,我对这个问题反正,整体上相对多一个乐观,对,还有非常多值得乐观。
橘子: 为什么最近变乐观了呢?之前好像挺悲观的。
前川: 就我一直还相对乐观,只是这个...

Open in 小宇宙