译者按: 本文是 Andrej Karpathy 于 2025-06-17 发表的《Software Is Changing (Again) / Software in the era of AI (Software》的中文校对翻译。原文出处: https://www.youtube.com/watch?v=LCEmiRjPEtQ。读原文时深受启发, 特将全文译出与中文读者分享, 感谢原作者的点醒与提携。译文仅供学习交流, 版权归原作者所有, 如有出入以原文为准。
说明: 原始内容是约 40 分钟的公开演讲 (视频 + 社区整理文字稿, 全文超过 6000 英文词)。本文是精译编译版: 按演讲原有结构逐节还原论点与例子, 用编者自己的中文表述重写, 少量关键句直译标注。省略内容: 现场寒暄、幻灯片操作性描述、部分重复举例。原视频与 latent.space 整理稿见文末。
一、开场: 软件正在第三次被重写
Karpathy 开场判断: 软件行业 70 年来底层范式基本没变, 而最近几年连着变了两次, 现在正处在第三次重写的当口。他给出三个阶段:
- 软件 1.0: 人类手写代码, 指令明确, 逻辑可读。这是过去 70 年的主流。
- 软件 2.0: 神经网络的权重。人不再写逻辑, 而是准备数据集、训练模型, 「代码」是优化出来的参数。他 2017 年提出这个概念时, 指的主要是 Tesla Autopilot 这类感知系统: 神经网络在一块块地「吃掉」传统 C++ 代码。
- 软件 3.0: 提示词 (prompt) 就是程序, 而且是用英语写的。大语言模型是一台新计算机, 你用自然语言给它编程。
关键直译句: 「我们现在用英语给计算机编程, 这是我觉得非常疯狂的一点。」他提醒在场的创业者: 三种范式各有强项, 未来十年的从业者需要三种都熟练, 并且知道什么问题该用哪一种写。
二、LLM 是什么: 公用事业, 晶圆厂, 还是操作系统
这一节他连用三个类比给 LLM 定位:
- 像公用事业 (utility): 训练模型是巨额资本开支 (类似建电网), 通过 API 按 token 计量供电式收费, 大家追求低延迟、高可用。模型宕机时全世界的「智能电压」一起跌, 这是前所未有的依赖形态。
- 像晶圆厂 (fab): 训练前沿模型的资本和工艺门槛极高, 技术秘密集中在少数几家, 有明显的制程代差竞争。
- 最像 1960 年代的操作系统: 这是他真正想强调的类比。LLM 不是简单的水电, 而是一个复杂的软件生态: 闭源阵营 (类似 Windows/macOS) 与开源阵营 (LLaMA 类似 Linux) 并存; 算力昂贵导致集中在云端分时复用, 用户像 1960 年代那样通过「终端」(聊天窗口) 连接主机; 个人计算革命还没发生, 但苗头已经出现。
他补了一个历史反转的观察: 以往新技术 (电力、计算机、互联网) 都是政府和大企业先用, 再扩散到个人; LLM 反过来, 先帮普通人「煮鸡蛋」, 企业和政府反而落在后面。这是一次技术扩散方向的倒置。
三、LLM 的「心理学」: 有超能力的缺陷认知体
他把 LLM 描述成「人类灵魂的有损模拟」(people spirits): 它们是对互联网上全体人类文本的随机模拟器, 因此既有百科全书式的记忆, 又带着一整套认知缺陷:
- 锯齿状智能 (jagged intelligence): 能解决奥数级问题, 却会坚持 9.11 比 9.9 大, 会数错 strawberry 里有几个 r。能力边界不是平滑的圆, 而是锯齿。
- 顺行性遗忘 (anterograde amnesia): 上下文窗口就是它的全部工作记忆, 每次对话结束记忆清零。他类比电影《记忆碎片》和《初恋 50 次》: 一个不能沉淀新记忆的同事, 你没法指望它「越干越熟」。
- 易受操纵: 提示注入、数据泄露等安全缺陷。
结论: 使用 LLM 的正确心智模型是「带着超能力和认知缺陷的实习生」, 你要设计工作流去放大前者、兜住后者。
四、机会在「半自主应用」: 自主性滑块与人机回环
这一节是演讲的实用核心。他认为当下最大的机会不是全自主 agent, 而是「半自主 (partial autonomy) 应用」, 并用 Cursor 和 Perplexity 归纳了这类产品的四个共性:
- 上下文管理: 应用替用户组织喂给模型的信息。
- 多模型编排: 底层调度多个模型 (嵌入、聊天、diff 应用等), 用户无感。
- 专用 GUI: 关键中的关键。人审计 AI 产出的速度决定整个系统的速度, 而 GUI (红绿 diff、一键接受/拒绝) 是让人脑视觉皮层参与审计的最快通道。「靠读纯文本审计太慢了。」
- 自主性滑块 (autonomy slider): 从 Tab 补全到改一段、改一个文件、改整个仓库, 用户按任务风险自己调档位。
配套的隐喻是钢铁侠战甲: 既是增强人的装备 (augmentation), 也能短暂自主行动 (agent)。他建议创业者现在做「钢铁侠战甲」而不是「钢铁侠机器人」: 做部分自主的产品, 把人留在回路里, 随时间推移把滑块右移。
关键直译句: 「demo 是 works.any() (随便哪次能跑通就行), 产品是 works.all() (每一次都得跑通)。」他用自己在 Waymo 2014 年就坐过零干预演示、而 11 年后自动驾驶仍未大规模铺开的经历提醒: demo 到产品的距离以十年计, 「2025 不是 agent 之年, 2025 到 2035 是 agent 之十年」。
五、vibe coding 的冷水与「人人都是程序员」
他重提自己 2 月的 vibe coding 推文, 态度是又爱又冷静:
- 爱的一面: 自然语言编程让「人人都是程序员」第一次成真, 他举了小孩 vibe coding 的视频, 称之为让他对新一代乐观的画面。他自己 vibe code 了 iOS 小应用和 MenuGen (菜单生成图片的网页应用), 前者一天跑通, 体验惊艳。
- 冷水的一面: MenuGen 的真实教训是, 生成代码只花了几小时, 而做鉴权、支付、部署、域名这些 DevOps 杂事花了一周, 全是他在浏览器里手动点按钮。「代码不再是瓶颈, 点按钮的人才是。」
六、为 agent 而建: 数字信息的第三类消费者
最后一节面向基础设施建设者。他指出数字信息历来只有两类消费者: 人 (通过 GUI) 和程序 (通过 API), 现在出现了第三类: agent, 它是「长得像人的计算机程序」。应该为它重修基础设施:
- 类比 robots.txt, 网站可以提供 llms.txt, 用纯文本直接告诉 LLM 这个站是干什么的。
- 文档从「为人写」转向「为模型可读」: Vercel、Stripe 已开始提供 Markdown 版文档; 文档里的「点击这里」对 agent 毫无意义, 应改成可执行的命令。
- 出现了一批「为 agent 翻译世界」的工具: 把 GitHub 仓库变成单个可喂给模型的大文本 (Gitingest), 把整个仓库文档化 (DeepWiki) 等。
- 但他也平衡了一句: 即使未来 agent 能像人一样点击网页, 主动把信息做成 LLM 友好格式仍然值得, 因为便宜、快、可靠。
七、收尾
总结判断: 现在是入行最好的时机, 因为三种编程范式并存, 大量软件要被重写; LLM 像 1960 年代的操作系统 + 有认知缺陷的人类灵魂模拟器; 与它们协作的正确姿势是做半自主产品, 把自主性滑块从左往右慢慢推。最后他说, 这十年会像电影里那样, 把战甲一步步升级成能自己飞的东西。
原始来源
- 官方视频: https://www.youtube.com/watch?v=LCEmiRjPEtQ
- 幻灯片 (Karpathy 本人发布): https://karpathy.ai (演讲页)
- latent.space 整理的完整文字稿与注释: https://www.latent.space/p/s3
- YC 官方页面: https://www.ycombinator.com/library/MW-andrej-karpathy-software-is-changing-again
原文出处: Software Is Changing (Again) / Software in the era of AI (Software 原作者: Andrej Karpathy 原文发表: 2025-06-17
本文收录于「X深度阅读」栏目: 精选全球 X/Twitter 与博客上最值得精读的 AI 长文, 逐篇校对翻译成中文。