译者按: 本文是 Sam Altman 于 2025-06-10 发表的《The Gentle Singularity》的中文校对翻译。原文出处: https://blog.samaltman.com/the-gentle-singularity。读原文时深受启发, 特将全文译出与中文读者分享, 感谢原作者的点醒与提携。译文仅供学习交流, 版权归原作者所有, 如有出入以原文为准。
作者: Sam Altman, 2025 年 6 月 10 日
我们已经越过了事件视界, 起飞已经开始。人类正接近造出数字超级智能, 而且至少到目前为止, 这一切远没有想象中那么怪异。
机器人还没有走上街头, 我们大多数人也还没有整天和 AI 对话。人们仍然死于疾病, 我们仍然没法轻易去太空, 宇宙中还有大量我们不理解的东西。
但是, 我们最近确实造出了在很多方面比人更聪明的系统, 它们能显著放大使用者的产出。这项工作里最不可能实现的部分已经被我们甩在身后; 让我们走到 GPT-4 和 o3 这类系统的那些科学洞见来之不易, 但它们会带我们走得很远。
AI 会以很多方式为世界做贡献, 但 AI 推动更快的科学进步和更高的生产力所带来的生活质量提升会是巨大的; 未来可以比现在好得多。科学进步是整体进步的最大驱动力; 想到我们还能拥有多少, 就令人无比兴奋。
从某种宏观意义上说, ChatGPT 已经比历史上任何一个人都更强大。数亿人每天依赖它, 而且用于越来越重要的任务; 一个小小的新能力就能创造巨大的正面影响; 一个小小的偏差乘以数亿人, 也会造成大量负面影响。
2025 年, 我们看到了能做真正认知工作的智能体的到来; 写代码这件事从此不再一样。2026 年, 可能会出现能发现新洞见的系统。2027 年, 可能会出现能在真实世界完成任务的机器人。
会有更多的人能够创作软件和艺术。但世界对这两样的需求也会大得多, 而且只要专家们拥抱新工具, 他们大概率仍会比新手强得多。总体来说, 2030 年一个人能完成的事情远超 2020 年, 这将是一个惊人的变化, 很多人会想明白怎么从中受益。
在最重要的那些方面, 2030 年代也许不会有天翻地覆的不同。人们仍然会爱自己的家人, 表达创造力, 玩游戏, 在湖里游泳。
但在另一些同样非常重要的方面, 2030 年代很可能与以往任何时代都截然不同。我们不知道智能能超越人类水平多远, 但我们马上就要知道了。
在 2030 年代, 智能和能源, 也就是想法, 以及把想法变成现实的能力, 将变得极其充裕。这两样东西长期以来一直是人类进步的根本限制; 有了充裕的智能和能源 (再加上良好的治理), 理论上我们可以拥有其他一切。
我们已经生活在不可思议的数字智能之中, 经历了最初的震惊之后, 大多数人已经相当习惯了。我们会非常快地从惊叹 AI 能写出一段漂亮的文字, 变成想知道它什么时候能写出一部漂亮的小说; 从惊叹它能做出挽救生命的医学诊断, 变成想知道它什么时候能研发出治愈方法; 从惊叹它能写一个小程序, 变成想知道它什么时候能创办一整家新公司。奇点就是这样发生的: 奇迹变成日常, 然后变成起步价。
我们已经听到科学家说, 他们的生产力是用上 AI 之前的两到三倍。先进的 AI 有很多有意思的地方, 但也许没有什么比"我们可以用它来加速 AI 研究本身"更重要。我们也许能发现新的计算基底, 更好的算法, 还有谁知道什么别的东西。如果我们能在一年甚至一个月里完成过去十年量级的研究, 进步的速度显然会完全不同。
从现在起, 我们已经造出来的工具会帮我们找到更多科学洞见, 帮我们造出更好的 AI 系统。当然, 这不等于 AI 系统完全自主地更新自己的代码, 但这确实是递归自我改进的雏形。
还有其他自我强化的循环在起作用。经济价值的创造已经启动了一个复利式的基础设施建设飞轮, 用来运行这些越来越强大的 AI 系统。而且, 能造机器人的机器人 (某种意义上, 能建数据中心的数据中心) 已经不太遥远了。
如果我们必须用传统方式造出第一批一百万台人形机器人, 但之后它们能运营整条供应链: 挖矿和提炼矿物, 开卡车, 运营工厂等等, 从而造出更多机器人, 再由这些机器人建造更多芯片工厂和数据中心, 那么进步的速度显然会完全不同。
随着数据中心的生产被自动化, 智能的成本最终应该会收敛到接近电力的成本。(人们经常好奇一次 ChatGPT 查询消耗多少能量; 平均一次查询大约消耗 0.34 瓦时, 差不多是烤箱运行一秒多一点的耗电量, 或者一只高效节能灯泡运行几分钟的耗电量。它还消耗大约 0.000085 加仑水, 约等于十五分之一茶匙。)
技术进步的速度会持续加快, 而人依然会像过去一样, 几乎什么都能适应。会有非常艰难的部分, 比如整类整类的工作消失, 但另一方面, 世界会以极快的速度变得富有, 我们将有条件认真讨论那些过去根本无法考虑的新政策构想。我们大概不会一下子采纳一份新的社会契约, 但几十年后回头看, 这些渐进的变化累积起来会是件大事。
如果历史可以借鉴, 我们总会找到新的事情做, 找到新的东西想要, 并且很快消化吸收新工具 (工业革命之后的职业变迁就是一个不错的近例)。人们的期望会上升, 但能力也会同样快速地上升, 我们都会得到更好的东西。我们会为彼此建造越来越美妙的东西。相对于 AI, 人类有一个长期的、重要而有趣的优势: 我们天生就在意别人, 在意别人的想法和行为, 而我们并不怎么在意机器。
一千年前的自给农民看我们今天很多人做的工作, 会说这些是假工作, 会觉得我们只是在玩游戏自娱自乐, 因为我们食物充足, 还有想象不到的奢侈品。我希望一千年后的人看那时候的工作, 也觉得那些是十足的假工作, 而我毫不怀疑, 做那些工作的人会觉得它们无比重要, 无比让人满足。
新奇迹诞生的速度会非常惊人。今天甚至很难想象到 2035 年我们会发现什么; 也许我们头一年解决高能物理, 第二年就开始太空殖民; 或者头一年材料科学重大突破, 第二年就有了真正的高带宽脑机接口。很多人会选择继续按原来的方式生活, 但至少会有一些人决定"接入"。
往前看, 这些听起来让人难以消化。但真正身处其中时, 感受大概是"了不起, 但可以应付"。从相对论的视角看, 奇点是一点一点发生的, 融合是缓慢展开的。我们正在攀爬指数级技术进步的长弧线; 往前看它总像垂直的, 回头看它总像平的, 但它其实是一条平滑的曲线。(回想 2020 年, 如果那时有人说 2025 年我们会接近 AGI, 听起来是什么感觉, 再对比这五年实际的样子。)
伴随巨大的收益, 也有严肃的挑战需要面对。我们确实需要在技术上和社会层面上解决安全问题, 但在那之后, 考虑到经济上的影响, 把超级智能的使用权广泛分发出去就变得极其重要。前面最好的路径也许是这样的:
第一, 解决对齐问题, 意思是我们能够可靠地保证, AI 系统学习并朝着我们集体长期真正想要的方向行动 (社交媒体的信息流就是一个未对齐 AI 的例子: 驱动它们的算法极其擅长让你不停地刷, 它们清楚地理解你的短期偏好, 但做法是利用你大脑里某种压过长期偏好的机制)。
第二, 专注于让超级智能变得便宜, 广泛可得, 并且不过度集中在任何个人、公司或国家手里。社会是有韧性的, 有创造力的, 适应得很快。如果我们能凝聚人们的集体意志和智慧, 那么尽管我们会犯很多错, 有些事情会搞得很糟, 但我们会快速学习和调整, 从而用这项技术拿到最大的好处, 承受最小的坏处。在社会必须划定的宽泛边界之内给用户大量自由, 看起来非常重要。世界越早开始讨论这些宽泛的边界是什么, 以及我们如何定义集体对齐, 就越好。
我们 (整个行业, 而不只是 OpenAI) 正在为世界建造一个大脑。它会极度个性化, 而且人人都容易使用; 到时候限制我们的将是好想法。长期以来, 创业圈的技术人喜欢嘲笑"点子哥", 就是那种有个想法, 到处找团队帮他实现的人。现在在我看来, 这些人的好日子快要到了。
OpenAI 现在是很多东西的集合体, 但归根到底, 我们是一家超级智能研究公司。我们面前还有大量工作, 但前方的路大部分已经被照亮, 黑暗的区域正在快速退去。能做我们正在做的事, 我们感到无比幸运。
便宜到不值得计费的智能, 已经近在咫尺。这话听起来可能很疯狂, 但如果 2020 年有人告诉你我们今天会走到这一步, 那句话大概听上去比我们现在对 2030 年的预测更疯狂。
愿我们平滑地、指数地、无风无浪地扩展, 穿过超级智能。
原文出处: The Gentle Singularity 原作者: Sam Altman 原文发表: 2025-06-10
本文收录于「X深度阅读」栏目: 精选全球 X/Twitter 与博客上最值得精读的 AI 长文, 逐篇校对翻译成中文。