译者按: 本文是 Sam Altman 于 2025-02-09 发表的《Three Observations》的中文校对翻译。原文出处: https://blog.samaltman.com/three-observations。读原文时深受启发, 特将全文译出与中文读者分享, 感谢原作者的点醒与提携。译文仅供学习交流, 版权归原作者所有, 如有出入以原文为准。
作者: Sam Altman, 2025 年 2 月 9 日
我们的使命是确保 AGI (通用人工智能) 惠及全人类。
开始指向 AGI 的系统已经进入视野*, 所以我们认为有必要理解我们所处的这个时刻。AGI 是一个定义松散的词, 但一般来说, 我们指的是这样一种系统: 它能在很多领域, 以人类水平, 解决越来越复杂的问题。
人是造工具的物种, 天生有理解和创造的冲动, 这让世界对我们所有人变得更好。每一代人都站在上一代人的发现之上, 造出更强的工具: 电力, 晶体管, 计算机, 互联网, 很快就是 AGI。
拉长时间看, 人类创新的步伐虽然时快时慢, 但持续不断, 带来了过去无法想象的繁荣, 改善了人们生活的几乎每一个方面。
从某种意义上说, AGI 只是我们共同搭建的这座越来越高的人类进步脚手架上的又一件工具。从另一种意义上说, 它是某种让人忍不住要说"这次不一样"的东西的开端; 我们面前的经济增长看起来惊人, 我们现在可以想象这样一个世界: 治愈所有疾病, 有更多时间陪伴家人, 充分释放每个人的创造潜力。
十年之内, 也许地球上每个人都能完成比今天影响力最大的那个人更多的事情。
我们持续看到 AI 的快速进展。以下是关于 AI 经济学的三个观察:
一个 AI 模型的智能水平, 大致等于训练和运行它所用资源的对数。这些资源主要是训练算力, 数据和推理算力。看起来你可以投入任意数量的钱, 获得持续且可预测的提升; 预测这一点的 scaling laws 在很多个数量级上都是准确的。
使用某一等级 AI 的成本, 大约每 12 个月下降 10 倍, 而更低的价格带来多得多的使用量。从 2023 年初的 GPT-4 到 2024 年中的 GPT-4o, 每 token 价格在这段时间里下降了大约 150 倍, 你可以从中看到这一点。摩尔定律以每 18 个月 2 倍的速度改变了世界; 这个速度强得难以置信。
线性增长的智能, 其社会经济价值是超指数级的。由此产生的一个后果是: 我们看不到任何理由认为指数级增长的投资会在近期停止。
如果这三个观察继续成立, 对社会的影响将是巨大的。
我们现在开始推出 AI 智能体, 它们最终会给人的感觉像虚拟同事。
拿软件工程智能体举例, 这是一个我们预计特别重要的智能体。想象一下, 这个智能体最终能完成一家顶级公司里有几年经验的软件工程师能做的大多数事情, 任务时长可以到几天。它不会有最大的新想法, 它需要大量人类监督和指挥, 它有些事做得很棒, 有些事却出人意料地差。
尽管如此, 把它想象成一个真实存在但相对初级的虚拟同事。现在想象有 1000 个这样的同事。或者 100 万个。再想象这样的智能体出现在每一个知识工作领域。
在某些方面, AI 在经济上可能会像晶体管: 一个可以很好规模化的重大科学发现, 渗透进经济的几乎每个角落。我们不太会想起晶体管, 也不太会想起晶体管公司, 收益被极广泛地分散了。但我们确实默认我们的电脑, 电视, 汽车, 玩具都能创造奇迹。
世界不会一下子改变; 它从来不会。短期内生活大体照旧, 2025 年的人们花时间的方式和 2024 年基本一样。我们仍然会恋爱, 组建家庭, 在网上吵架, 去野外徒步。
但未来会以一种无法忽视的方式向我们扑面而来, 社会和经济的长期变化将是巨大的。我们会找到新的事情做, 找到新的彼此需要的方式, 找到新的竞争方式, 但它们可能不太像今天的工作。
能动性, 意志力和决心, 很可能会变得极其珍贵。正确地决定做什么, 想清楚如何在一个不断变化的世界里前行, 会有巨大的价值; 韧性和适应力会是值得刻意练习的能力。AGI 将成为人类意志力有史以来最大的杠杆, 让每个个体拥有比以往更大而非更小的影响力。
我们预计 AGI 的影响是不均匀的。虽然有些行业的变化会很小, 但科学进步很可能比今天快得多; AGI 在这方面的影响也许会超过其他一切。
许多商品的价格最终会大幅下降 (今天, 智能的成本和能源的成本限制着大量事情), 而奢侈品和少数天然有限的资源, 比如土地, 价格可能会更夸张地上涨。
从技术上讲, 我们面前的路看起来相当清晰。但公共政策和社会共识如何决定 AGI 融入社会的方式, 影响重大; 我们早发布, 常发布的原因之一, 就是给社会和技术留出共同演化的时间。
AI 会渗入经济和社会的所有领域; 我们会默认一切东西都是聪明的。我们中的很多人预计, 需要给人们比历史上更多的技术控制权, 包括更多地开源, 并且接受安全与个人自由之间存在需要权衡取舍的平衡。
我们永远不想鲁莽行事, 而且随着 AGI 临近, 可能会有一些与安全相关的重大决定和限制不受欢迎。但方向上, 我们认为越接近 AGI, 越要向个人自主的方向倾斜。我们能看到的另一条路, 是威权政府用 AI 通过大规模监控和剥夺自主权来控制人民。
确保 AGI 的收益被广泛分享, 是最关键的事情之一。历史上技术进步的记录显示, 我们在意的大多数指标 (健康结果, 经济繁荣等) 长期看平均都在变好, 但平等程度的提高似乎并不由技术决定, 把这件事做对可能需要新的想法。
尤其是, 资本与劳动之间的力量平衡看起来很容易被搞乱, 这可能需要及早干预。我们对一些听起来古怪的想法持开放态度, 比如给地球上每个人发一些"算力预算", 让所有人都能大量使用 AI; 但我们也能看到, 只要坚持不懈地把智能的成本压到尽可能低, 也许同样能达到目的。
到 2035 年, 任何一个人都应该能调动相当于 2025 年全人类总和的智力容量; 每个人都应该拥有不设上限的天才智囊, 想怎么指挥就怎么指挥。今天有大量人才因为缺少资源而无法充分施展, 如果我们改变这一点, 世界由此释放的创造力产出, 会给我们所有人带来巨大的好处。
特别感谢 Josh Achiam, Boaz Barak 和 Aleksander Madry 审阅本文草稿。
*注: 我们在这里使用 AGI 一词是为了把话说清楚, 无意改变或重新解释我们与微软之间关系所依据的那些定义和流程。我们完全预期与微软的长期合作。这条脚注看起来有点傻, 但我们知道有些记者会为了点击量写点傻话, 所以我们在这里提前把傻话堵住。
原文出处: Three Observations 原作者: Sam Altman 原文发表: 2025-02-09
本文收录于「X深度阅读」栏目: 精选全球 X/Twitter 与博客上最值得精读的 AI 长文, 逐篇校对翻译成中文。