译者按: 本文是 Ezra Klein (对谈 Ben Buchanan) 于 2025-03-04 发表的《The Government Knows A.G.I. Is Coming》的中文校对翻译。原文出处: https://www.nytimes.com/2025/03/04/opinion/ezra-klein-podcast-ben-buchanan.html。读原文时深受启发, 特将全文译出与中文读者分享, 感谢原作者的点醒与提携。译文仅供学习交流, 版权归原作者所有, 如有出入以原文为准。
形式: The Ezra Klein Show 播客文字稿 (纽约时报观点版), 对谈嘉宾 Ben Buchanan, 拜登白宫前 AI 特别顾问。2025 年 3 月 4 日发布, 时长约 64 分钟。 本文为精译版: 原文字稿约 1.5 万英文词, 此处完整保留 Klein 开场独白与对谈全部主题段落及关键交锋, 压缩了部分往返确认式对话。
Klein 的开场独白 (全译)
过去几个月, 我一直有一种奇怪的经历: 一个接一个的人, 来自人工智能实验室、来自政府, 彼此独立地来找我说: 它真的要来了。我们马上要造出通用人工智能了。
他们的意思是: 他们长期相信我们正走在一条通往变革性人工智能的路上, 这种 AI 能完成人类在电脑前能做的几乎一切事情, 而且做得更好。他们过去以为这需要五到十五年。现在他们相信它会在两三年内到来, 在 Donald Trump 的第二个任期之内。
他们相信, 是因为他们此刻正在发布的产品, 和他们在自己工作的地方看到的东西。而我认为他们是对的。
如果你一直在告诉自己这个东西不会来, 我真的认为你需要质疑这个想法。它不是 web3, 不是雾件。我们谈论的很多东西, 现在就已经在这里了。
我认为我们正站在一个人类历史上不同于以往任何时代的时代的门槛上。而我们没有准备好, 部分原因是根本不清楚"准备"意味着什么。我们不知道劳动力市场会如何反应。我们不知道哪个国家会先到。我们不知道它对战争意味着什么, 对和平意味着什么。虽然世界上有那么多别的事要报道, 我仍然认为很有可能, 当我们回望这个时代, AI 会是那件真正要紧的事。它会是事件视界: 它之前的世界和它之后的世界, 是两个不同的世界。
来找我的人当中有 Ben Buchanan, 拜登白宫的前人工智能特别顾问。我请他上节目有几个理由: 第一, 他不是 AI 实验室的人, 没人付钱让他告诉你这项技术要来了。第二, 他曾身处近年 AI 政策制定的神经中枢, 尤其是对华竞争政策。第三, 政府已经彻底换届, 新政府里有一批对 AI 抱有非常强烈观点的人: Elon Musk、Marc Andreessen、David Sacks、JD Vance。他们大概率将在通用人工智能或类似的东西降临世界时执政。那么他们会怎么做? 哪些决定将不得不被做出? 我们现在需要开始做什么样的思考, 来准备迎接一件几乎所有业内人都在竭尽全力大声告诉我们正在到来的事情?
对谈精译
一、什么要来了, 凭什么信
Klein: 拜登政府结束后, 很多人打电话来想讲他们做过的伟大工作。你打来, 却是想警告大家你认为正在到来的东西。什么要来了?
Buchanan: 我们将看到能力超乎寻常的 AI 系统。我不喜欢"通用人工智能"这个词, 但我认为这个词在未来几年内会名副其实, 而且很可能就在 Trump 的任期内。外界有一种看法, 认为 AGI 一直是企业炒作或投机。但我在白宫看到的, 站在一个显然不属于企业的位置上看到的, 是非常清晰的趋势线。我们在拜登总统领导下试图做的, 就是让美国政府和我们的社会在这些系统到来之前做好准备。
(Buchanan 给出 AGI 的通行定义: 能完成人类几乎一切认知任务的系统。他补充: 未来四年未必完全到位, 但会看到接近的东西, 广度惊人, 深度在某些领域超越人类, 能够取代认知要求高的工作中的人, 或这些工作的关键部分。)
Klein: 我要说, 我也相当确信我们就在这个门槛上, 我不是以怀疑者的身份来谈的。但我仍然觉得很难在心智上活在那个世界里。我最近用了 Deep Research (OpenAI 的新产品)。我和节目制作人共事, 我雇用极有才华的人做要求很高的研究工作。我让它做一份关于麦迪逊式宪政体制与如今高度极化的全国性政党之间张力的报告, 它几分钟内产出的东西, 至少达到我合作过的任何团队几天工作的中位水平。我和多家重度编程公司的人聊过, 他们告诉我, 到今年年底或明年年底, 他们预计大部分代码将不再由人类书写。我实在看不出这怎么可能不冲击劳动力市场。
Buchanan: 我想这是对的。我很喜欢那句话: 未来已来, 只是分布不均。除非你在真正使用这项技术, 否则你大概意识不到它今天有多好。而且重要的是: 今天是它最差的一天, 它只会越来越好。
二、一个没有国防部的技术革命
Buchanan (提出全文的智识主线): 这几乎是第一场不由国防部资助的革命性技术。回看过去百年: 核武器、太空、早期互联网、微处理器、大规模航空、雷达、GPS, 这些技术根本上都来自国防部的钱。私营部门负责发明, 但中央政府的角色让国防部和美国政府对技术有默认的理解力和塑造力。在 AI 上, 政府默认两样都没有。
三、对华竞赛: 为什么必须先到
Klein: 美国关于 AI 的争论很多, 但有一件事几乎无人争论、而且主导着政策: 我们必须赶在中国之前拿到 AGI。为什么?
Buchanan: 我确实认为, 拿到 AGI 或变革性 AI 的下游有深远的经济、军事和情报能力, 美国继续领先 AI 对国家安全是根本性的。我常想起 Kennedy 1962 年莱斯大学演讲。所有人记得"我们选择登月", 但真正的好句子在结尾: “太空科学, 就像核科学和一切技术一样, 本身没有良知。它成为善的力量还是恶的力量, 取决于人。而只有当美国占据卓越地位时, 我们才能参与决定这片新海洋是和平之海, 还是一个新的恐怖战争舞台。” 我认为这话对 AI 同样成立。我不是 AI 布道者, 我认为这项技术有巨大风险, 但美国在塑造它走向上有不可推卸的角色。
(Klein 追问"中国先到"的具体图景。Buchanan 举网络战为例: 更强的 AI 意味着更强的网络攻防, 白宫通过 DARPA 的 AI Cyber Challenge 测试过 AI 的攻防能力。“我不想生活在一个中国拥有这种攻防能力而美国没有的世界里。”)
Klein: 我的感觉是, 大多数人和机构在一个有能力的国家行为体面前基本都是可入侵的。现在国家会更擅长入侵, 而且 AI 黑客的数量可以远超人类黑客。我们是不是马上要进入一个普通人在数字上脆弱得多的世界? 你担心它变得真正反乌托邦吗?
Buchanan: 更强的 AI 确实会让找漏洞和利用漏洞更容易, 优势会偏向进攻方。但防守方的 AI 也会让写出更安全的代码更容易。我们尽可能把天平往防守侧搬。但在这个过渡期, 没有最新 AI 防御技术的老旧系统, 面对更强的进攻方总体上会更脆弱。
(两人随后讨论 AI 实验室自身的安保: 模型权重对他国极有价值, 而实验室文化与安全要求相互别扭。Buchanan: “在旧金山合适的家庭聚会上, 他们不会分享模型, 但会聊技术路线, 而那些同样价值连城。”)
四、监控国家与"完美执法"的恐惧
Klein: 经济学家 Sam Hammond 写过《关于 AI 的九十五条论纲》, 其中一条我常想: 现在很多法律, 如果有完美执法的能力, 会是极度压制性的。法律是在知道人力稀缺的前提下写的。当监控国家变得真正好用, 当 AI 让警察国家变成完全不同的东西, 当无人机战争无穷无尽, 会发生什么? 我非常理解我们为什么不想让中国遥遥领先, 但就我们自己政府获得的能力而言, 你怎么想?
Buchanan: 我把它拆成两部分。第一是中国: 一个骨子里是专制的国家, AI 会让某种只有 AI 系统才能实现的控制水平变得具体可感, 我觉得这很可怕。俄语和中文里都有类似"天高皇帝远"的说法: 即便在专制国家, 历史上也存在国家够不到的空间, 因为国土的尺度。AI 会让政府权力在那些地方变得更糟。然后是更有趣的问题: 在美国, AI 与民主的关系。我共享这种不安。历史上有思想家说过, 我们修订法律的方式之一就是有人违法, 而那需要空间。我们的司法系统里有一种人性, 我不想失去它。司法部被要求为 AI 在刑事司法中的使用制定原则。机器面前案件同判有它的好处, 但系统有缺陷、又无处不在, 存在对权利的根本性侵蚀风险, 作为公民我对此深感忧虑。
Klein (说出全文最广为流传的比喻): 这一切让我极度不安, 原因是: 我们像是在召唤一个盟友。我们试图与另一个、几乎是行星际的盟友结盟。我们在和中国竞赛去完成这个结盟, 但我们不理解这个盟友, 不理解让它进入我们所有系统和规划意味着什么。据我所知, 每家公司、每个政府都相信, 不远的将来, 把更多决策自主权交给 AI 会带来更强更快的决策循环。一旦到了 AGI, 你会想把相当一部分决策交给它。我们冲向那里, 因为我们怕对方先到, 却不真正理解那是什么、意味着什么。让这个星球上智能的下一个转折, 恰好诞生在美中修昔底德陷阱式的霸权竞赛的激励结构里, 这看起来是历史级的危险。
Buchanan: 坦白说, 我在白宫时和离开后, 都在很大程度上共享这种不安。出口管制的吸引力之一, 就是它找到了一个能差异化拖慢中国的咽喉点, 为美国创造领先空间, 而在我看来, 理想情况下这个领先应该花在安全与协调上, 而不是一路狂奔。
五、DeepSeek 冲击与出口管制
(Klein 问 DeepSeek 改变了什么。Buchanan 给出白宫视角的时间线: 2023 年 11 月起就在跟踪 DeepSeek; 其 CEO 说过最大瓶颈不是钱和人才, 是拿不到先进芯片; 2024 年 12 月的 V3 才是真正该被注意的东西, 显示了强劲的算法效率进步; 2025 年 1 月的 R1 只是在 V3 上延伸的推理系统, 不需要大量算力。)
Buchanan: 看清 DeepSeek 做了什么之后, 我认为媒体炒作没有道理, 它不改变基本面分析。他们仍然被算力约束, 我们应该拧紧螺丝继续约束。他们聪明, 算法在进步, 但美国公司的算法也在进步。这提醒我们芯片管制重要, 中国是值得敬畏的对手, 但这不是"天塌了、Scaling Law 失效了"的时刻。
(Klein 转述左派 Lina Khan 的观点: DeepSeek 证明大算力大公司范式是错的, 存在去中心化的 AI 路线。Buchanan 回应: 前沿永远算力密集, 美国两条竞赛都要赢: 前沿竞赛和效率扩散竞赛。关于 NVIDIA 反对出口管制, Buchanan: 每一块先进 AI 芯片都会被卖掉, 出口管制 2022 年 10 月实施以来 NVIDIA 股价一直在涨; 考虑到这些芯片对国家安全的重要性, 这个代价值得。)
六、Andreessen 的指控与监管辩论
(Klein 播放 Marc Andreessen 的音频: 他声称 2024 年 5 月与白宫高层会面时被告知, AI 将只属于两三家大公司, 政府将直接监管控制它们, “创业公司的时代结束了”。)
Buchanan: 我和他见过一次。他谈了创业公司和竞争力方面的担忧。我的回应是: 看我们在竞争上的记录。总统的行政命令 (Trump 刚刚废除的那个) 有很长的竞争章节; 政府采购备忘录里专门写了要从多元供应商采购; 芯片法案里有一堆竞争条款。我们在竞争问题上的立场非常清楚。确实存在 Scaling Law 带来的向大公司集中的结构性动力, 而我们在很多方面是在对抗它。
(关于开源/开放权重: Buchanan 区分"开放权重"与"开源", 白宫 2024 年 7 月的报告结论是没有证据支持限制开放权重生态, 它对创新贡献巨大, 但应随技术进步持续监测。)
(关于实验室想要什么: Buchanan 说, 实验室从未向他做过具体政策游说, 他们传达的是: “这个东西要来了, 比你想的快, 做好准备。” 唯一接近监管的动作, 是在实验室自愿承诺安全测试后, 要求它们把安全测试结果与政府共享, 有 CEO 估算合规成本是一天的员工工时。另一个共同诉求是能源: 如果算力和模型权重最后都建在中东石油国的数据中心里, 因为那里给电, 那会是问题。拜登卸任前一周签署的 AI 基础设施行政命令, 就是要加速美国本土的电力与数据中心审批, 这个命令没有被废除。)
七、Vance 的巴黎演讲: 安全与机会是对立的吗
(Klein 播放 JD Vance 在巴黎 AI 峰会的演讲: “我不是来谈 AI 安全的, 我是来谈 AI 机会的……限制它的发展不仅会不公平地让在位者受益, 还意味着瘫痪我们这代人所见最有前途的技术之一。”)
Buchanan: 他设置了一个我不认同的二分法。讽刺的是, 他演讲的其余部分我有很多认同: 以工人为中心、美国卓越, 这与我们的行动和哲学完全一致。但如果他是说安全与机会存在根本张力, 我不同意。看看技术史: 适量的安全行动会释放机会, 甚至释放速度。我们研究过早期铁路: 事故与死亡不断, 人们不敢坐。然后出现了安全标准和安全技术: 闭塞信号、空气制动、轨距标准化。当时未必受欢迎, 但回头看得很清楚, 正是这些让美国铁路系统在 19 世纪后期成了那个样子。技术史上这个模式反复出现。当然不是每个安全监管都是好的, 确实可能过度、可能扼杀。但"安全与机会根本对立"不成立。
Klein: 有趣, 因为我不知道监管的度在哪里。Vance 的反例是核电: 一项曾有非凡前景的技术, 一连串死亡人数其实不高的事故吓坏了公众, 监管把它勒死在摇篮里, 至少核电的支持者都这么信。那么看我们已经对 AI 采取的行动, 我们是在勒死摇篮里的它吗?
Buchanan: 除了安全测试结果共享 (成本约一天工时) 那一项, 我们没有实施任何接近监管的东西。我们创建了 AI 安全研究所: 纯国家安全导向 (网络风险、生物风险、事故风险), 纯自愿, 与 Anthropic、OpenAI、甚至 Elon 的 xAI 都有谅解备忘录。我们把它看作把 AI 专业知识带进政府、建立公私关系的机会。技术发展下去, 怎么处置是 Trump 政府的决定。
八、劳动力市场: 全场最尖锐的交锋
Klein: 你在这个问题上一直用"我不是劳动经济学家"来推挡。我告诉你, 劳动经济学家也不知道该拿 AI 怎么办。你曾是政府里最接近这件事的人。如果它有你认为的一半大, 考虑到它到来的时间被压缩得那么短, 它会是有史以来对劳动力市场最具破坏性的事。铺电网花了很久, 修铁路花了很久, 而这个不会。
Buchanan: 基本正确, 但我要稍微推回来: 它会先冲击经济的某些部分、某些公司, 分布会非常不均。
Klein: 不均恰恰是它的去稳定性所在。如果均匀, 你还能设计一个均匀的政策。给你一个我担心的具体例子: 现在有一大批 19 岁的大学生在读市场营销, 而有一大批市场营销的工作, 坦白讲, AI 现在就能做得不错。拖慢这件事的只是企业的适应速度。但很快会出现一类围绕 AI 从零搭建的新公司: 组织结构就是一个人监督七套系统。你可能很快看到营销毕业生的失业率翻三倍。软件工程师我反而不确定, 因为 AI 既拿走岗位也创造需求。但大量"在电脑后面完成"的工作都在这个射程里。你们必须讨论过这个。白宫里那些相信这一切的聪明人, 当时在说什么?
Buchanan: 我们 2023、2024 年确实和经济学家讨论过, 给这场辩论增加质感。趋势线现在比那时更清晰。但坦白说, 要对此做任何有力度的事都需要国会, 而那完全不在牌桌上。所以它更多是智力演练而非政策。
Klein: 政策都是从智力演练开始的。
Buchanan: 这么说公平。AI 的一个反向力量是它会放大个体的能动性: 19 岁、25 岁的人能用这些系统做过去做不到的事。如果智能多少被商品化了, 那么在那个世界里更稀缺、更突出的是能动性 (agency)、是动手做事的主动性。小公司、活跃生态、充分竞争的经济, 在整体尺度上不是坏事。我想我们和 Vance 都会同意的是: 要保证个体工人和工人阶层在过渡中受到保护。而我们应该诚实: 这非常难, 我们从来没做好过。
Klein: 太同意了。某种意义上, Donald Trump 今天当总统, 就是因为我们在中国冲击这件事上干得稀烂。我追问这个, 是因为我们看着它来已经很久了, 而我环顾四周, 看不到多少有用的思考。我们这个国家沉迷于一个经济上有用的故事: 成功掌握在自己手里。这让我们在工人因为全球衰退、因为全球化、因为这次的 AI 而失业时, 很难拿出同情或现实主义。退一万步, 我至少想看到一些"如果冲击严重我们该怎么办"的备选方案摆在架子上。再培训? 这些人都去当护士? 水管工要多少个? 白宫里所有相信这件事要来的聪明人, 当时的思想演练到底是什么?
Buchanan: 是的, 我们想过这个问题。我们知道它不会在总统任期内爆发, 也知道做任何事都需要国会。你表达的是对现有答案的深深不满, 我共享这种不满。老一套的答案是大规模再培训, 我和你一样怀疑。硅谷的人会说全民基本收入。我相信, 总统也相信, 工作带来一种尊严, 不一定是有偿工作, 但人每天需要做点什么来获得意义。所以如果你说的是对这件事走向的不安, 我个人共享它。
Klein: 我要说得更重: 我不安的是当下思考的质量, 全线都是。民主党自认是工人阶级的党, 我们谈 AI 驱动的岗位置换谈了好几年。事到临头需要国会, 但也需要能变成国会政策的思考。这件事没人谈过吗? 没有会议? 你们没让 Claude 起草一份备选方案简报?
Buchanan: 我们肯定没让 Claude 起草, 因为政府使用 AI 还有合规问题要先过。
Klein: 你看, 这本身就有点说明问题。
Buchanan: Ezra, 我同意政府必须在所有这些维度上更前倾。这曾是我的工作。我不觉得拜登政府任何人, 尤其是我, 会出来说我们解决了它。我们是在为一个不会在我们任内到来、但正在到来的东西打地基, 下一个团队必须作为美国国家安全、经济实力与繁荣的问题去处理它。
九、结尾: 政策的雾, 与三本书
Klein: 这触到我在 AI 政策对话里最沮丧的一点: 坐下来, 对方开场说"人类历史上也许最具变革性的技术正在以两三年的时间尺度降临人类文明", 你说"哇, 那我们该做什么", 然后一切就变得模糊了。如果它这么大, 却没人能说清我们该做什么, 那这场政策辩论到底是关于什么的? 是我们不够有创造力, 还是时候未到?
Buchanan: 我认为在采取政策行动之前, 应该对"你在做什么、为什么做"有智识上的谦逊。看着一项变革性技术, 在图上画出趋势线, 说它很快要来, 同时并不掌握一份 2027 年该做什么的十四点计划, 这在智识上是完全自洽的。芯片管制的独特之处在于它是一件可以早做的、稳健的好事, 为我们买下我说过的那个空间。我们还建了 AI 安全研究所这样的制度, 为下一个团队搭好架子。现在轮到他们校准了: 开放权重怎么办? 自愿的东西要不要变成强制? AI 用于国防要不要拆掉我们装的护栏? 这些决定已经在他们面前排好队了。
(节目以惯例的三本书推荐收尾。Buchanan 推荐: Thomas Kuhn《科学革命的结构》, 范式转移概念的出处; Thomas Rid《机器崛起》, 讲机器如何从极客玩具变成国家安全要务; George Saunders《在雨中的池塘里游泳》, 七篇俄国文学短篇的文学细读。Buchanan 说, 选最后这本是因为它是他能想到的最人类的事业, “当我们谈论哪些认知任务对机器还很遥远时, 我在某个层面上希望这是其中之一, 希望有什么根本上人类的东西只有我们能做。我不确定这是不是真的, 但我希望是。”)
Klein: 我为那本书请过 Saunders 上节目, 那是我最喜欢的节目之一。Ben Buchanan, 非常感谢。
原文出处: The Government Knows A.G.I. Is Coming 原作者: Ezra Klein (对谈 Ben Buchanan) 原文发表: 2025-03-04
本文收录于「X深度阅读」栏目: 精选全球 X/Twitter 与博客上最值得精读的 AI 长文, 逐篇校对翻译成中文。