scripod.com

Anthropic 口中的 AI 安全,为什么听起来像一场生意保卫战?

科技乱炖

3 DAYS AGO
科技乱炖

科技乱炖

3 DAYS AGO

Shownote

最近,Anthropic 很忙。 它发布威胁情报报告,讲 Claude 如何被用于模型蒸馏、网络攻击、诈骗和监控系统;它隐藏思维链、升级风控、严查账号;它还呼吁整个行业放慢脚步,警惕发展过快的 AI 威胁人类。 这些担忧当然不全是假的。问题是,当一家模型公司开始判断谁可以使用 AI、什么用途值得警惕,甚至把用户行为写进公开报告时,它究竟是在守护安全,还是在争夺定义 “安全” 的权力? 更耐人寻味的是,平时互不相让的达里奥、奥特曼和马斯克,这一次竟然罕见地在 “AI 应该慢一点” 上找到了共同语言。但在一场谁先减速、谁就可能...

Highlights

从 Anthropic 的安全叙事出发,节目回望冷战技术禁运,追问 AI 安全、商业竞争与技术霸权之间的边界。
03:51
安全叙事也可能是竞争策略
21:52
经济利益会反过来瓦解政治诉求
58:08
企业正在扮演道德警察
1:05:03
英伟达正在成为 AI 行业的央行
1:24:46
无护栏的 AI,真正危险的是什么?
1:29:19
AI 比核武器更难禁运
1:35:15
先了解 AI 的能力边界

Chapters

Anthropic 的安全叙事与技术管制前史
00:00
巴统如何在安全与利益之间运作
13:20
从东芝违规交易到 AI 技术壁垒
37:48
Anthropic 的安全审查与商业动机
50:06
账号风控与无法停止的 AI 竞赛
1:09:40

Transcript

朱峰: 本节目由津津乐道制作播出。大家好,又是一期科技乱炖,在这期正题节目开始之前,给大家预告一个事。我们停止了六年的,线下听友聚会又要开始了,为什么会聚会呢?是因为我们美国游。 高春辉: 或者叫黄叫暂停吗? 朱峰: 对,暂停,是因为我们开团之后,有几位团圈的美签没办下来。然后我们一算账,好像如果既有的同学们一起去的话,可能就要亏钱了。再加上,因为上期我们也提到了,就是温老师那边在美国找到了一些资源,想把这个事情搞得更好一点。我说那干脆咱就经济求精,咱拖一拖,把那边的美国那边的准备工作,做起了之后我们再开团...