scripod.com
EP 63. 直播回放：什么是开发大模型应用的新一代底层技术栈？对谈贾扬清，PingCAP黄东旭和AWS核心AI产品研发

Overview

Shownote

Highlights

Transcript

Chapters

Pins

EP 63. 直播回放：什么是开发大模型应用的新一代底层技术栈？对谈贾扬清，PingCAP 黄东旭和 AWS 核心 AI 产品研发

OnBoard!

2024/12/16
OnBoard!

OnBoard!

2024/12/16
OverviewShownoteHighlightsTranscriptChaptersPins

Shownote

我们回来了！2024 年转眼就剩下不到两周了，接下来要努力了！这一期是 10 月一场直播的录制。AI 时代日新月异，最近几个月 windsurf, Devin 一众 AI 软件开发工具不断刷新我们对于软件开发范式的认知。这一期对于更底层 AI native 软件技术栈的讨论，仍然不过时。 Hello World, who is OnBoard!? 随着 GPT, Claude 等大模型的出现和迅速演进，AI 应用开发进入了全新的阶段。传统的软件开发流程正在被重新审视，新的开发框架、数据存储方式和调试方法层出不穷...

Highlights

在这期播客中，专家们深入探讨了 AI 时代软件开发的变革，特别是如何通过 AI 技术重塑基础设施和开发框架。随着大模型的迅速发展，软件开发的传统流程正面临重新审视，嘉宾们分享了他们在这一领域的见解和经验。
01:27
AI 应用开发的变化正在影响软件开发的各个方面。
04:41
DSPy 能够将自然语言转换为 Python 代码，提升工作流的可编辑性和可观测性。
15:35
AI 应用开发中，传统软件开发方式正在被重新定义。
21:51
模型输出的多样性和幻觉问题需要关注
29:19
标准化工具的出现推动了高性能、低成本工具的发展
33:43
RAG 模式和 agent 的落地情况及其应用场景
37:12
Kubernetes 调度模块的重构可能性被提出
49:16
AI 技术正在改变数据处理的方式，特别是在 ETL 和非结构化数据的管理上。
54:31
AI 在基础设施和服务层面的可观测性至关重要。
1:01:44
人工智能正在迅速改变各个行业
1:07:51
标准化在 AI 发展中的重要性不容忽视
1:11:01
云元生的变革及其对中国互联网公司的影响
1:15:53
开源在技术发展中的重要性不容忽视
1:17:03
开源促进了创业公司的创新和发展
1:20:01
人工智能工具的选择对项目成功至关重要
1:22:42
开源项目需要在技术上超越业界平均水平以吸引用户
1:28:28
向量数据库与传统 SQL 的关系及应用
1:35:13
开发者正在转向 AWS 等云服务提供商
1:37:26
云端部署与模型的互补性是未来发展的关键
1:43:18
推荐系统的依赖性在电商平台中至关重要。
1:44:26
AI 技术将改变数据处理和用户交互的方式
1:52:18
希望听众给予五星好评以提升节目知名度。

Chapters

AI 时代的软件开发变革
00:00
我们都聊了什么
嘉宾自我介绍，最近关注到的 AI 相关产品: DSPy, 快手可灵，Anthropic Artifacts
03:05
开发基于大模型的应用，为什么需要不一样的技术栈？
12:08
为什么上一波 AI 的 API 商业模式不 work, 这一次 Model as a service 的 API 业务会有什么异同？
18:45
过去一年，应用开发工具有哪些重要变化？未来更复杂的应用还有哪些需求？
25:26
AutoGPT 启发了 RAG？Agent 的实际落地情况怎样？
33:35
AI 应用为什么会重构 Kubernetes 的资源调度方式？
35:13
多模态和非结构化数据的增加，会对 Infra 和开发工具有哪些新的需求？对于现在的 data infra 公司意味着什么？
40:08
AI 应用需要怎样新的可观测性体系？
51:15
AI 和 RAG 系统中的搜索，与传统搜索有哪些异同？
1:01:43
Agentic workflow 会对应用开发技术栈带来哪些新的需求？现在做工具 “抽象化” 还太早了吗？
1:04:47
变革中，新的定义如何产生？为什么很多概念定义都是在美国诞生的？
1:10:56
这一系列变化中，有哪些是新玩家的新机会？哪些适合现有玩家做改良？
1:13:18
做一个开发工具，如何决定是否要开源？
1:16:58
多模态实时交互会对开发技术栈带来哪些新的挑战？
1:18:41
如何判断哪些开源项目可以做商业化？
1:21:12
我们需要单独的向量索引吗？VectorDB 有多少机会会被现有数据库公司占据？
1:25:45
未来技术选型的决策会由 AI 来做吗？软件开发会变成标品吗？
1:33:43
云厂商和大模型提供商之间是相互竞争的吗？
1:35:40
端侧模型和云端部署模型之间是怎样的关系？未来的格局会有什么变化？
1:39:22
未来 1-3 年，期待 infra 领域还有哪些变化？
1:44:21
嘉宾的产品未来还有哪些重要计划！
1:49:51

Transcript

Monica: 欢迎来到 OnBoard，真实的一线经验，走心的投资思考。我是 Monica。 GN: 我是 GN。 黄东旭: 我们一起聊聊，软件如何改变世界。 Monica: 大家好，欢迎来到 OnBoard，我是 Monica。这段时间跑了好几个国家，怠慢了更新，还请大家多担待。2024 年转眼就剩下不到两周了，看来接下来要继续努力。这一期是 10 月份一场直播的回放。虽然 AI 时代日新月异，最近几个月，相信大家也被 Winsurf，Devon 等一众 AI Coding 产品，不断刷新我们对于 AI...
小宇宙
Open in 小宇宙