译者按: 本文是 Andrej Karpathy (访谈嘉宾), Dwarkesh Patel (主持) 于 2025-10-17 发表的《Andrej Karpathy: AGI is still a decade away (Dwarkesh Podcast) +》的中文校对翻译。原文出处: https://www.dwarkesh.com/p/andrej-karpathy。读原文时深受启发, 特将全文译出与中文读者分享, 感谢原作者的点醒与提携。译文仅供学习交流, 版权归原作者所有, 如有出入以原文为准。
精译说明: 原始素材为两部分: 2 小时 25 分的播客访谈（官方文字稿约 3 万词）与 Karpathy 事后在 X 发布的千词级长文澄清帖。本文对澄清帖做逐主题精译, 对访谈做精华整理, 依据官方文字稿、澄清帖原文的公开转载与多方报道交叉核对。因 X 原帖无法直接抓取全文, 个别句子为忠实转述而非逐字翻译。
第一部分: Karpathy 的 X 澄清长帖（发布于访谈后两天, 2025-10-19 前后）
很高兴上了 Dwarkesh 的节目, 我觉得问题和对话都很好。我刚又把节目重看了一遍。首先, 是的, 我知道, 抱歉我语速太快了: 我的说话线程有时候跑不过我的思考线程, 好几处因为表达太急, 意思打了折。趁热把几个话题再说清楚一点。
**关于 AGI 时间线。**我的 AI 时间线, 大概比你在旧金山 AI 圈的聚会上、或者你的推特时间线上听到的悲观 5 到 10 倍, 但相对于越来越多的 AI 否定论者和怀疑派, 又相当乐观。看起来矛盾, 其实不矛盾: 我的看法是, 模型确实惊人, 而剩下的工作确实还很多。说"智能体的十年"（decade of agents）, 是我对"智能体元年"（year of agents）这种说法的回应: 我们会和这些东西一起工作十年, 它们会逐年变好, 这条路是通的。我说的"十年到 AGI", 在我看来是非常看多的判断, 只是在当下的过热气氛里显得像泼冷水。
**我们在造幽灵, 不是造动物。**动物是进化直接烧进硬件里的: 斑马出生几分钟就会跑, 那不是学出来的。我们造 AI 走的不是这条路: 预训练是一种蹩脚的进化, 我们是把互联网上全部的人类文本压缩进一个网络, 得到的是人类数据的模仿物, 一种"幽灵"或"魂灵"。它们是完全不同种类的智能实体: 会背整个互联网, 却会在很基础的地方犯错。你可以随时间把幽灵调教得更像动物一点, 但起点根本不同。
**关于强化学习。**我说过一句比较狠的话: 强化学习是用吸管吸监督信号。你让模型跑完一整条长轨迹, 最后只拿到一个标量的对错反馈, 再把这一比特的信号涂抹到整条轨迹的每个 token 上。这是极其糟糕的信用分配: 成功轨迹里的每一步错误都被奖励, 失败轨迹里的每一步妙手都被惩罚。人类根本不是这么学的: 人会复盘, 会反思哪一步走对了哪一步走岔了, 我们现在的模型训练里几乎没有这个环节。用 LLM 当裁判做过程监督也有坑: 模型会找到对抗样本, 生成一堆乱码把裁判骗到给满分。所以我看多智能体交互这个大方向, 看空现在这种强化学习的具体形态。
**模型是悄悄塌缩的。**你找模型要一个笑话, 它翻来覆去就那三个。模型输出的分布其实塌缩得厉害, 熵太低, 多样性太差。人做梦可能就是在对抗这种过拟合。这也是为什么合成数据没那么好使: 模型自己生成的数据悄悄地窄, 拿去训练只会更窄。
**关于"认知核心"（cognitive core）。**我想要的不是一个背下整个互联网的模型, 是一个被剥掉知识、只留下思考算法的核心: 推理、规划、工具使用的能力本体, 知识需要时再去查。记忆太好其实妨碍泛化, 人类记性差, 反而被逼着去找模式。我猜这个核心甚至可能只要十亿参数量级。
**关于工作与自动化。**大家老拿放射科医生开涮, 但放射科医生现在过得很好（雇佣量还在涨）。哪些工作先被吃掉, 看三个东西: 任务是不是重复、错误能不能容忍、监督成本高不高。很多工作是 80% 可自动化的, 剩下 20% 才是人保住饭碗的地方, 于是形态是人机协作而非替换。自动驾驶我干了五年, 教训就一句: 演示和产品之间隔着一条"九的长征", 90% 到 99% 到 99.9%, 每一个九都是等量的工作。1986 年 CMU 的面包车就能自动开了, 到今天还没收完尾。软件智能体也一样: demo 很容易, 产品很难。
**关于教育。**AGI 之后人干什么？我押教育。不是因为悲壮, 是因为教育技术上还没被做对: Bloom 早就证明一对一辅导能把学生成绩推高两个标准差, 我们第一次有机会把这个"两个标准差"规模化。我理想中的产品像一个完美的教练: 永远给你上强度刚好的材料, 让你觉得难而可及。人类不会停止学习, 就像有了机器人之后人类也没停止健身。我建 Eureka 就是想做这个: 给知识修坡道（ramps to knowledge）。
第二部分: 访谈精华（按话题整理）
**为什么是十年。**Dwarkesh 开场就问: 你说过智能体的十年, 为什么不是元年？Karpathy 的回答: 你去感受一下现在的智能体, 它们像一个你雇来的实习生, 但这个实习生没有持续学习能力, 多模态不行, 电脑操作不行, 你没法教它任何东西。这些缺陷单个都不致命, 加在一起就是十年的工作量。他强调这个估计来自他 15 年的行业直觉: 他见过太多"看起来只差一步"的东西走了十年。
**LLM 的认知缺陷。**模型有幻觉, 有锯齿状的能力面（jagged intelligence）: 某些地方超人, 某些地方不如小学生。它们没有睡眠和记忆固化机制, 上下文窗口像工作记忆, 但没有东西把白天的经验蒸馏进权重。人类每天睡觉时都在做这件事。
**关于 nanochat 与编码智能体。**Karpathy 刚发布 nanochat（几千行代码从零复刻一个 ChatGPT 训练全流程）。Dwarkesh 问: 你写它的时候用了多少 AI？回答很诚实: 智能体对样板代码很好用, 因为网上到处都是类似的例子; 但对智力密集、结构新颖的代码, 它们不断误解意图, 因为训练分布里没有这种东西。他那句"网上评价我用 AI 写 nanochat 的传言被大大夸张了"在 X 上被玩成梗。
**AGI 会融进 2% 的 GDP 增长。**这是访谈里最反直觉的判断: AGI 不会造成 GDP 曲线的相变, 它会像电力、计算机、互联网一样, 被吸收进过去 250 年一直保持的约 2% 年增长趋势线里。自动化是个连续变量, 我们已经在指数上了, 计算机时代 GDP 也没有跳变。Dwarkesh 用"一亿个并行副本的爱因斯坦"反驳, Karpathy 不为所动: 扩散、集成、监管、物理世界的摩擦会把爆炸抹平。
**文化与自我博弈。**当前 LLM 缺少两样让人类智能起飞的东西: 文化（个体学习成果的跨代累积）与自我博弈（AlphaGo 式的自我对弈梯子）。什么时候 LLM 能给自己写教科书、互相出题互相学, 什么时候才有质变。
**给年轻人的话。**结尾 Dwarkesh 问他对学生的建议。Karpathy: 去学扎实的底层东西（数学、物理、计算机系统）, 它们训练的是思维本身; 别把自己的价值押在"知道某个 API 怎么调"上。
原文出处: Andrej Karpathy: AGI is still a decade away (Dwarkesh Podcast) + 原作者: Andrej Karpathy (访谈嘉宾), Dwarkesh Patel (主持) 原文发表: 2025-10-17
本文收录于「X深度阅读」栏目: 精选全球 X/Twitter 与博客上最值得精读的 AI 长文, 逐篇校对翻译成中文。