译者按: 本文是 Dwarkesh Patel 于 2025-06-03 发表的《Why I don’t think AGI is right around the corner》的中文校对翻译。原文出处: https://www.dwarkesh.com/p/timelines-june-2025。读原文时深受启发, 特将全文译出与中文读者分享, 感谢原作者的点醒与提携。译文仅供学习交流, 版权归原作者所有, 如有出入以原文为准。
精译说明: 原文约 3500 英文词。本文依据原文逐节精译, 保留全部论证、事例与预测数字, 个别过渡句有压缩。原文可在 dwarkesh.com 免费阅读。
开场: 我和我的嘉宾们意见不合
过去几年我采访了几乎所有 AI 实验室的核心研究员, 他们对 AGI 的估计从 2 年到 20 年不等。我自己的看法是: 变革性 AI 不会像我许多朋友说的那样两三年内到来。原因不是模型不聪明, 是它们缺了一种和聪明无关的东西。
持续学习: 那个巨大的缺口
有人说, 就算 AI 进步今天停止, 现有模型也足以颠覆经济。我不同意。财富 500 强没有大规模用 LLM 改造工作流, 不是因为管理层保守, 是因为让模型像人类员工一样干活真的很难。而根子在于: 模型不会随着干活变好。缺乏持续学习, 是一个巨大、巨大的问题。
我自己为播客的后期流程搭过各种 LLM 工具: 重写自动转录的文字稿、从访谈里找适合发推的片段、和我一起改文章。我在这上面花了超过 100 个小时, 这些都是标准的语言输入输出任务, 按理说是模型的主场。但它们的水平停在 5 分（满分 10 分）, 而且永远停在那里。
人类员工不是这样的。人类的价值不主要来自原始智力, 而来自建立情境的能力: 复盘自己的失败, 打磨那些微小的效率改进, 慢慢摸清你的偏好和这门生意的脾气。我的剪辑师半年后远比入职第一天有用, 模型第 100 次用和第 1 次用一模一样。
教模型干活, 就像教一个学生吹萨克斯, 但规则是: 学生吹一次就消失, 你只能给下一个学生留一张写着上个学生错在哪的字条。你可以不停地改 system prompt, 实践中这根本产生不了人类式的学习。你只能拿到出厂水平的能力, 到顶了。
上下文内学习给了一点希望, 但存不下来
公平地说, 模型在单次会话内确实会变聪明。和我改文章时, 前几轮建议很平庸, 但当它看到我怎么重写、听到我的批评后, 后面的建议明显变好。这种会话内的适应, 有点像人类学习的微缩版。
问题是会话一结束, 一切归零。有人说用超长上下文加记忆压缩解决, 比如 Claude Code 的做法: 上下文快满时把已有内容总结成摘要再继续。但在软件工程之外, 这招很脆: 真正的专长是密密麻麻的隐性知识, 压缩成一段文字摘要就死了。人类的学习不是把经验写成小作文, 是某种更深的、织进直觉里的东西。
和 Sholto、Trenton 的分歧
我的朋友 Sholto Douglas 和 Trenton Bricken（Anthropic 研究员）在我的节目里说: 即使 AI 进步就此停滞, 现有能力加上更多数据, 五年内也能自动化大量白领工作。我不这么看。如果持续学习没有突破, 我赌五年后被消灭的白领岗位不到四分之一。模型能把一个个子任务做得凑合, 但"凑合完成子任务"和"成为一名员工"之间隔着那道学习鸿沟。
不过, 把时间拉长, 我比多数人更看多。因为一旦持续学习被解决, 模型的价值会出现一次不连续的跳升。而且 AI 有人类没有的性质: 所有副本的学习成果可以合并。**相当于一个 AI 在同时学会世界上每一份工作。**一个具备人类水平在线学习能力的 AI, 可能不需要任何额外算法进步, 就在广泛部署中迅速变成某种功能性超级智能。这也是为什么我认为不会有"平缓过渡"这回事。
好消息是, 这个能力大概率不会凭空出现。实验室会先发布蹩脚的早期版本, 我们会看着它从难用变好用, 有预警时间。
电脑操作: 为什么我不信明年就成
Anthropic 的朋友们预测 2026 年底会有可靠的电脑操作智能体, 能端到端替一家小企业报税: 翻邮件、找发票、对收据、分类支出、填表、提交给 IRS。我尊重他们, 但我不信。三个理由:
- 滚动周期太长。 任务时长越长, 强化学习的每一次尝试越贵。让智能体无人监督地跑两个小时才知道成败, 再算上图像视频处理的算力开销, 迭代速度必然被拖慢。
- 没有预训练语料。 语言任务有整个互联网托底, 多模态电脑操作没有对应的海量数据。Mechanize 的朋友打过一个比方: 想象只用 1980 年代之前的全部文本训练 GPT-4, 就算给你算力也训不出来。
- “简单"的算法要走很多年。 推理这件事概念上多简单, 从 GPT-4 发布到 o1 上线还是走了两年, 中间是海量的工程、调试和试错。电脑操作是更陌生的模态、更稀疏的数据, 凭什么假设它更快？
打个比方: 今天的模型在电脑操作上相当于 GPT-2 在语言上的位置。从 GPT-2 到 GPT-4 花了四年。我预计 2026、2027 年会有惊艳的演示（相当于 GPT-3 时刻）, 但离端到端接手一周长度的项目还远。
但推理是真的
说完坏消息说好消息。看 o3 或 Gemini 2.5 的推理轨迹, 你很难不承认: **它真的在推理。**它把问题拆开, 琢磨用户到底想要什么, 发现方向不对会自己拐回来。Claude Code 用 10 分钟从一句含糊的需求里零样本造出一个能跑的应用, 这种体验太疯狂了。对这个东西最准确的描述是"婴儿版通用智能”, 而所谓深度怀疑派, 多半是没在自己的专业领域认真用过前沿模型。
我的预测（五五开的赌注）
这些概率分布很宽, 我对任何一边都不惊讶。而且就算按我的时间线, 为 2028 年可能出现的错位 ASI 做准备也完全说得通。
- 2028 年: AI 能像称职的经理人一样, 端到端完成一家小企业的报税: 跨网站追收据、发现缺的单据、发邮件催发票、填表、提交 IRS。
- 2032 年: AI 获得和人类一样快、一样有机、一样无缝的在岗学习能力。到那时, 一个 AI 视频剪辑师干满六个月后, 会像人类同事一样深刻理解我的频道、口味和观众。
为什么是"这十年, 或者再等很久"
最后解释一下为什么我的分布是对数正态的。前沿系统的训练算力过去十年每年涨 4 倍以上, 但芯片、电力和 GDP 占比决定了这个游戏 2030 年之后玩不下去。之后的进步只能靠算法, 而深度学习范式内的低垂果实会越摘越少。所以 2030 年后, 每年出现 AGI 的概率会陡降。
**要么这十年, 要么很久以后。**如果我偏慢的估计是对的, 2030 年代甚至 2040 年代的世界都还算正常。其他所有情形下, 哪怕考虑到今天模型的全部缺陷, 世界都会变得真正疯狂。
原文出处: Why I don’t think AGI is right around the corner 原作者: Dwarkesh Patel 原文发表: 2025-06-03
本文收录于「X深度阅读」栏目: 精选全球 X/Twitter 与博客上最值得精读的 AI 长文, 逐篇校对翻译成中文。