对于人工智能技术来说，“递归自我改进”意味着什么？ 本文解析了这一闭环过程的运行逻辑、潜在威力与局限。

预计2026年晚些时候，人工智能（AI）公司Anthropic将会挂牌上市。届时，该公司的首次公开募股（IPO）很有可能成为有史以来规模最大的IPO之一。这是因为该公司的产品Claude聊天机器人深受程序员喜爱，他们愿意为了使用Claude付出数额不菲的真金白银。2025年2月，Claude的软件工程智能体Claude Code正式推出，并迅速成为全球诸多程序员不可或缺的工具。Claude Code的受众也包括Anthropic公司自身的程序员：按照该公司的说法，他们2026年5月发布的代码中，超过4/5是由Claude编写的。而在Claude Code推出之前，这个比例只是区区“百分之几”（大致在1%～4%）。

这类系统在输出内容的质量和数量上都有所提升。智库机构“模型评估与威胁研究”（METR）的一项颇有影响力的基准测试表明，在2025年初，Anthropic公司的模型能够完成以往需要人类工程师花费近一小时时间才能完成的编程任务，而截至发稿时（2026年6月7日），该公司的最新系统则能够完成那些原本至少需要人类工程师一个工作日才能完成的编程任务。

因此，当这家在业内处于领先地位的公司于2026年6月5日呼吁全球放慢或者暂停对前沿AI的开发时，难免会引来怀疑的目光。毕竟，哪个行业的领军企业不希望竞争对手停止追赶呢？

不过，Anthropic的领导人看起来颇为真诚，他们多年来一直担心AI技术一旦失控会造成严重破坏。无论是编写程序、开展工程设计还是进行科学研究，最新一代的AI模型都展现出了极强的竞争力，因此不少人担忧，人类亲手打造AI模型的时代可能快要终结了。Anthropic公司的联合创始人杰克 · 克拉克（Jack Clark）认为，到2028年底，某个AI系统在没有人类参与的情况下即可自行创造出下一代产品的可能性为60%。

这一时刻将开启名为“递归自我改进”（RSI）的闭环过程。第一代模型催生出运行速度更快、功能更强大的第二代模型，然后第二代模型又催生出第三代——性能进一步提升，以此类推。只要这个过程持续下去，每一次迭代都会催生出能力更强的模型。若能构建出具有RSI能力的AI系统，那么人类工程师便不再需要构建其他系统了。克拉克说：“这个故事在很多人看来都有点天马行空，但实际上，这可能是一个真实存在的趋势。”

技术加速

没有人能肯定地说出RSI会带来怎样的后果，因为AI与人类不同：前者可以不知疲倦地连续工作。也正是因为这一点，有人认为，RSI可以在短时间内催生出拥有超级智能的AI，即出现所谓“快速起飞”现象。也有人从拟声角度称这个过程为“呼啸而上”——源自人们想象中的智能爆炸发出的声响。AI末日论者担心超级AI会脱离人类的掌控，而RSI正始于人类命运被移交给机器控制的那一刻。不过，自我改进的AI模型很可能会面临速度限制，至少一开始是这样。

构建能够实现RSI的AI模型需要将目前由人类工程师执行的一系列专业任务自动化。当前，数据科学家正在研究AI理论，而程序员则在将理论付诸实践。系统工程师负责搭建基础架构，以便推动原始实验模型的规模化生产。还有一些人致力于寻找新的训练数据来源或探索生成新数据的方法。对齐和安全团队则负责核查，确保训练过程中产生的内容不会造成伤害——无论是有意还是无意。

当然，并非所有团队都能充分接受AI的帮助，即便是在各个专业领域内部，有些任务也比其他任务更容易实现自动化。用不了多久，人类程序员就可以在无须亲自编写任何一行计算机代码的情况下完成工作，但要让AI通过谈判获取此前从未数字化的科学论文合集，恐怕还要些时日。这类“锯齿状前沿”的发展并不总是一目了然的。设计新算法原本看起来是相对不太容易被AI替代的工作之一，但2025年5月，谷歌DeepMind的AlphaEvolve出现后情况就不一样了。这个模型建议谷歌改变其在各个数据中心之间分配工作负载的方式，从而使谷歌公司的全球算力能耗节省了0.7%。另外，AlphaEvolve还找到了更优的矩阵乘法运算方法，从而将谷歌公司的旗舰级大语言模型Gemini的训练速度提高了1%。

完全实现RSI需要让整个链条中的所有任务都自动化。不过，在那之前，我们可能就会感受到由AI驱动的研发加速现象。美国乔治城大学下属智库——安全与新兴技术中心（CSET）2026年1月发布的一项报告称，随着AI系统完成的AI研发工作占比不断上升，全AI研发带来的生产力提升幅度，将达到纯人类研发的10倍、100倍，甚至1000倍。该报告也警告称，即便AI研发的某些方面最初难以实现自动化，但只要研发加速，那些瓶颈很快就会被突破。

研发自动化的现实进程

目前，还没有任何AI模型可以自主构建其后续版本。不过，大型AI模型已经可以自行构建较小规模的模型。同时，在人类的帮助下，它们也能构建其他大型AI模型。

2026年早些时候，当时还是独立研究员（现在在Anthropic工作）的安德烈 · 卡帕西（Andrej Karpathy）训练了一个与GPT-2能力相当的聊天机器人。GPT-2是OpenAI在2019年推出的一个大语言模型。当时，训练GPT-2模型需要在32块顶级芯片上耗费168小时，而2026年卡帕西仅用一台配备了8块GPU（一种用于构建AI模型的专用芯片）的计算机在3小时内就得到了同等性能的模型。经过几个月的进一步优化，卡帕西把他的模型Nanochat的训练时间缩短至仅两个多小时。

2026年3月，卡帕西把加速训练过程的工作交给了一个叫作Autoresearch的AI智能体。两天后，该智能体就把训练时间缩短到1小时48分钟，又过了五天则缩短到1小时39分钟。卡帕西说：“这期间我什么都没碰。”换句话说，相较于人类训练成果，Autoresearch把训练效率提升了18%。这点相当了不起，毕竟卡帕西本人就是个相当有才能的人：他是OpenAI研究团队的创始人之一，还领导了特斯拉AI团队达五年之久。

这样的提升本身平淡无奇，AI智能体不过就是为本次训练选择了更优的初始参数，拓宽了大语言模型“注意力”窗口的覆盖范围，并且能够注意到模型的注意力正在转移。卡帕西认为，这些改进并没有特别新奇的地方，但他之前确实没有注意到这些细节。“不过，这些平平无奇的改进叠加在一起，实实在在地提升了Nanochat的性能。”

随着AI模型性能不断提升，此类加速趋势不可避免。构建TB级前沿AI模型的许多工作并不像AI行业的巨额薪水和豪华办公室所展示的那样光鲜亮丽。它涉及将从第三方购买的基础设施堆栈的各个层级连接在一起，调试硬件和软件设置，以及微调“超参数”（训练任务的初始配置），直到结果看起来可靠为止。现在，AI系统几乎可以在没有人类监督的情况下完成上述大部分工作。

正在构建开源式前沿AI模型（这意味着模型的参数是公开的）的纽约实验室Reflection AI的研究员乔 · 斯比萨克（Joe Spisak）表示，即便是更细致的脑力工作也接近自动化了。给前沿AI系统一个旨在提高效率的思路框架，它就能设计一个实验，然后在原始实验模型上测试，看看哪些操作有效，最后反馈给你一个可以大规模部署的方案。关键是，前沿AI系统的这种能力越来越强了。

AI模型已经可以在大约30分钟内完成这类原本需要人类耗费数小时才能完成的任务。如今，趋势已经越发明显，人类只需做好研究主管的角色，引导AI进行实验，由AI模型自行编写代码、调试、优化并监控。这样的生产力跃升当然令人兴奋，但同样令人警醒。随着人类在生产流程中执行的功能越来越少，失控的风险越来越大。最后的结果可能是模型训练模型，以实现模型设定的目标，而模型的安全性也仅由模型认证。

部分学者担心会有灾难性后果出现。麻省理工学院的物理学家兼机器学习研究员马克斯 · 泰格马克（Max Tegmark）在过去十年的大部分时间里都致力于推动AI的安全化事宜，他将现在的状况比作司机在高速公路上闭着眼睛踩油门。泰格马克表示，如果司机拒绝睁开双眼，那结果必然是毁灭。泰格马克还列举了多种可能会出现的灾难场景：功能强大的AI系统可能会在政府决策、商业决策上胜过人类，从而夺取人类的权力；它们也可以向自己的创造者提供至高权力，进而引发全球极权主义；或者，它们可能干脆不再关心人类，逐渐把人类挤出去，以便为更多数据中心和发电设施腾出空间。

三年前，泰格马克曾带头呼吁暂停全球AI开发工作，他认为当时最前沿的AI模型GPT-4的创造就相当于高速公路上的一场蒙眼之旅。而CSET的那份报告也警告称“由RSI创造的系统会带来极大风险，因此现在就需要采取预防性措施”。如今看来，Anthropic已经趋向于认同这一主张。

物理瓶颈与数据约束

就目前的情况来说，还存在若干物理层面的限制，会对AI模型自我优化的速度构成制约。其中最重要的就是算力的获取。尽管效率在提升，但更新的AI模型在训练时所需的算力仍比前代模型多，从而迫使数据中心也要加快发展。

CSET的临时执行董事海伦 · 托纳（Helen Toner）表示，消费者对AI模型的使用也可能会减缓AI研发的速度。AI数据中心的算力是有限的，需要在服务付费用户、训练未来模型和进行开放式研发之间谨慎分配。第一类需求越大，短期内留给其他两类的算力自然就越少。

接下来就是训练数据的问题。AI领域最近的许多进展都出现在模型借助“可验证奖励”机制“自学成才”的领域。什么是“可验证奖励”？一个软件要么奏效、要么不奏效；一项数学证明要么正确、要么错误。这就是可验证奖励的典型例子。在这样的例子中，由模型纯粹为了训练其他模型而生成的合成数据，可以在规避退化风险（AI模型通过自己输出的数据进行自我训练时一般都会出现退化风险）的前提下进行准确性验证再添加到训练数据集中。要想让AI模型在创造性写作或法律判决方面做得更好，难度会大得多。换句话说，如果AI模型需要从现实世界中学习，那么这也会限制其自我改进的上限。

AI模型RSI的闭环或许就是通往超级智能之路上的关键一步。至于这条道路的尽头是乌托邦还是人类末日，那就取决于你的倾向了。不过，有一点可以确定：这绝不是实现AI能力指数级增长所需的唯一一步。

资料来源 The Economist