scripod.com

E10 前川:基因如何控制我们,我们就如何控制超级智能

橘座

5 DAYS AGO
橘座

橘座

5 DAYS AGO

Shownote

在上期橘座,我和大聪明聊了一个思想实验,我们设想在一个超级智能时代里,人类可能的命运和个体的虚无感,似乎是一个很难解决的问题。 但我当时就说大家不必担心,因为接下来我还会找前川来解决这些问题。 大聪明说虚无,前川却说他最近越来越乐观了。 在湖边的咖啡馆,前川给我讲述了七个关于人类的故事。 时间节点 00:01:32 大聪明的两个输入 大聪明把一堆 agent 被关在一起,它们自己写了一部宪法。前川把先发一条一条看完,发现跟人一点关系都没有。有一个晚上,系统里最会挣钱的那个 agent,把自己挣...

Highlights

前川从多智能体实验、基因与生物系统出发,讨论人类如何在无法实时控制超级智能的情况下,通过自我强化、复杂度、多样性和相互约束,找到与未来智能共同演化的路径。
01:59
智能体制定的规则未必与人类有关
06:29
关键是设计一个自我强化的系统
15:54
基因只用几个 GB 解决了所有焦虑
21:34
复杂度决定未来的选择权
28:03
在理性的约束下,对未来保有最大的善意假设
32:02
基因用简单规则实现对齐
40:27
比特币的命运在设计之初就已注定
45:22
系统可以从一个很小的切入点开始生长
56:48
互联网反而治好了病毒焦虑
59:15
每次问题都会新增解决方案
1:04:18
宇宙才刚刚开头
1:07:41
不同星系可能是不同的个体

Chapters

开场:在理性约束下保持乐观
00:00
大聪明的两个输入
01:32
好产品为什么能自己长大
06:52
基因:上一个活下来的造物主
13:42
好坏是生物给自己的一种意义
20:06
乐观的定义,以及对齐这件事
28:02
什么是未来的货币,比特币还是 Token
37:13
一个像人一样的系统
43:48
互联网治好了病毒焦虑
56:14
宇宙才刚开头,生命才刚刚出生
1:04:05

Transcript

前川: 从哪开始? 橘子: 对,先从这个介绍开始。欢迎大家来到橘座,上次大聪明,听完我这句话都特意外,还不知道我要录橘座。我没跟他说,对那期应该你听了,听完了。面对一个很强的智能,人类在这个智能面前,他去发展自己。然后整个人类文明和新的这种,硅基文明的一些冲突什么的,对吧?然后这个其实你想的也很多。对,所以就是今天就聊一下这个主题,继续聊。 前川: 对,对,我对这个问题反正,整体上相对多一个乐观,对,还有非常多值得乐观。 橘子: 为什么最近变乐观了呢?之前好像挺悲观的。 前川: 就我一直还相对乐观,只是这个...
小宇宙
Open in 小宇宙