scripod.com

#361 当 AI 完美复制了我的声音(一):AI 克隆与权利失控的边界

声东击西

2025/09/25
声东击西

声东击西

2025/09/25

Shownote

如果有一天,你突然在网上听到了自己的声音,但却并不记得曾经亲口说过这些话,你的感受会是怎样的? 这样的事情已经在发生了。不知道你有没有听过由 AI 克隆出来的人声?今天,它们听起来已经足够逼真,几乎到了可以以假乱真的程度。对一些播客主播(包括我们自己),和配音演员们来说,这也意味着他们的声音可能已经被复制、被传播,甚至被用在他们从未同意过的场景里。而普通人可能也面临同样的风险。 在这期节目里,我们就从我们自己的困惑出发,试图做一些初步探索。我们有和同行去进行一些讨论,也聊了聊发生在中国和美国的两起与 AI ...

Highlights

当技术能够完美复制一个人的声音时,我们该如何守护自己的身份与权利?本期节目从播客主播和配音演员的真实经历出发,探讨 AI 声音克隆带来的伦理冲击与法律困境。随着声音被悄然采集、训练并用于未知场景,个体的掌控力正面临前所未有的挑战。
04:41
即便不被 AI 取代,也会被新人取代
07:35
同事仅打个招呼就用我的声音训练 AI,毫无边界感
16:12
OpenAI 未经允许使用斯嘉丽・约翰逊的声音进行产品交互设计
21:18
尽管约定不公开使用,AI 生成声音仍被广泛商用
29:38
AI 未经许可复制个人声音构成人格权侵权

Chapters

AI 语音的挑战与思考
00:00
当被提问是否要把自己的声音交给 AI 时,我们在思考什么
07:30
中国播客声音 AI 化,谁是第一个吃螃蟹的人?
10:28
当配音演员听到 AI 使用自己未经授权的声音:发生在中美的两起诉讼
18:07
中国的 AI 声音第一案:当事人、律师采取的行动和案件的结果
24:16

Transcript

Mengyi: 用声音。 徐涛: 碰撞世界,声动活泼。嗨,大家好,欢迎收听声东击西,我们一起用对话来发现更大的世界。我是徐涛,那今天我们这期节目还是会蛮特殊的。因为说起来其实是我以及我的同事们,一个模模糊糊的困扰吧。就是我们内部有讨论到,当 AI 越来越厉害,可以自动生成我们的声音,并且用我们的音色,我们的语气。来说一些我们从来没有说过的话的时候,我们得要如何来看待这个事,会有这个困惑呢?也是因为我们日常就在见证 AI 的突飞猛进。因为无论是声动活泼,生动早咖啡,还是科技早知道。我们都已经做了一系列的和 A...