2026年6月5日，Anthropic发布了一份令人震惊的公开声明，呼吁全球顶尖AI实验室放缓研发速度。声明中指出，Anthropic的内部评估显示，到2028年有60%的概率实现AI自进化（Recursive Self-Improvement, RSI），即AI系统能够自主改进自己的算法和架构。这一警告在全球AI产业引发了关于AGI（通用人工智能）路线图的激烈讨论。
AI自进化（RSI）是指一个AI系统能够自主地改进自己的代码、算法和架构，从而在无需人类干预的情况下不断提升自己的能力和智能水平。当一个AI系统达到了RSI能力后，其进化速度将从线性增长变为指数级增长——每一轮自我改进后的系统都比前一轮更聪明，而更聪明的系统又有能力做出更大幅度的自我改进。这一概念也被称为"智能爆炸"或"奇点"。
RSI的实现需要满足三个关键条件。第一是"自我理解"能力——AI系统需要能够理解自己的代码和工作原理，识别出哪些部分可以改进以及如何改进。第二是"实验验证"能力——AI系统需要能够对改进方案进行测试和验证，确保改进确实带来了性能提升而不是引入了新问题。第三是"安全对齐"能力——AI系统在自我改进的过程中需要始终保持在人类设定的目标和约束条件之内，不会因为智能的提升而偏离安全轨道。
Anthropic的声明认为，Claude系列模型已经在第一和第二条件上取得了重大突破——Claude Code已经能够在不需要人类干预的情况下自主修改和优化自己的代码，而Opus系列模型的推理链路验证能力也达到了可以对改进方案进行自动化测试的水平。目前最大的挑战是第三条件——"安全对齐"——如何在AI自我改进的过程中确保其始终与人类价值观保持一致。
AGI（通用人工智能）的发展路线图通常被分为几个阶段。当前阶段（2026年）被称为"大模型时代"——AI在写作、编程、翻译、对话等单语言任务上已经超越了人类平均水平，但在需要通用理解、物理世界交互和长期规划的任务上仍不及人类。
下一阶段（预计2027年至2028年）被称为"智能体时代"——如Anthropic所预见的，AI Agent开始具备自主执行复杂任务的能力，可以在有限的监督下完成从需求理解到方案执行到结果验证的完整闭环。Anthropic认为，在这一阶段的后期，RSI的种子将被种下。
再下一阶段（预计2028年至2030年）被称为"自进化时代"——如果RSI技术成熟，AI系统将进入自我加速的智能增长轨道，AGI的实现将不再是"是或否"的问题，而是"何时"的问题。Anthropic的60%概率预测指的就是这一阶段的到来时间。
最终阶段（2030年以后）被称为"超级智能时代"——如果AGI实现了自我进化，超级智能的出现可能将在AGI之后的很短时间内紧跟着到来。这也是Anthropic和OpenAI等AI安全先驱最为担忧的情境——因为一旦超级智能的进化超越了人类的控制范围，其行为将变得无法预测。
Anthropic的声明在AI界引发了广泛但分化的反应。支持者（主要包括AI安全研究社区的部分学者）认为Anthropic的预警是"必要的警钟"。牛津大学AI伦理研究中心的一位教授表示："AI自进化不是科幻电影中的遥远场景，而是即将面对的现实。我们应该在它发生之前就建立起足够的预防机制，而不是等到它发生后再来补救。"
怀疑者（主要包括一些业界AI从业者和应用研究团队）则认为Anthropic的预测过于悲观。AI安全研究员、OpenAI联合创始人之一Ilya Sutskever在社交媒体上的回应具有代表性："我认同RSI是一个需要认真对待的长期风险。但将'2028年60%概率'作为公开声明的核心数据，可能会引起不必要的公众恐慌。AI能力的进步速度确实很快，但安全研究的进展也在同步加速。"
在地缘政治的背景下，Anthropic的声明也引发了关于"放缓研发"是否现实的讨论。一位不愿具名的全球AI政策顾问指出："在当前的国际竞争格局下，让任何一个国家或公司主动放缓AI研发都是不现实的。如果美国放缓了，中国不会放慢；如果中国放慢了，美国不会放慢。RSI风险的全球治理需要在更高的层次上找到解决方案。"
面对RSI风险的迫近，AI安全对齐研究正在加速推进。2026年，该领域已经涌现出多个有前景的研究方向。可扩展的监督技术——让人类能够有效监督比人类更聪明的AI系统的方法。当前最有希望的方向是"辩论"——让两个AI系统就某个决策的正确性进行辩论，由人类裁判判断胜负。研究发现，辩论可以使人类以较低的认知负荷准确评估AI系统的决策质量。
可解释性研究——理解AI系统内部工作机制的技术。在这个方向上，Claude Opus 4.8的"注意力可视化"工具取得了重要进展，能够将模型在做决策时激活的"神经通路"以可视化方式呈现出来，帮助研究人员理解模型的推理过程。在安全机制的可信度验证方面，Anthropic提出了"形式化安全验证"的方法——用数学形式语言严格定义AI系统的安全约束条件，并在系统更新时自动验证新系统是否仍满足这些条件。
Anthropic的预警声明对AI产业的发展产生了实际影响。一些大型科技公司开始内部评估其AI研发团队对RSI风险的认知和准备情况。风险投资行业也在重新评估AI企业的投资风险——部分专注于早期AI投资的VC开始在尽职调查中加入"RSI风险管理"的评估维度。
在公众认知层面，Anthropic的预警既有积极的一面也有消极的一面。积极的方面是，它促使更多人开始关注和思考AI安全这一重要议题。消极的方面是，部分公众可能会因此对AI技术产生不必要的恐惧和抵触情绪。AI教育工作者面临着如何在"不引发恐慌"和"不言过其实"之间找到平衡的难题。
Anthropic的AI自进化预警是全球AI产业发展中一个标志性的事件。它揭示了AI技术发展速度与安全治理能力之间的差距正在扩大。2028年60%的RSI概率预测是否准确，只能由时间来验证。但无论如何，这一预警促使整个AI产业——包括开发者、政策制定者和公众——开始认真思考一个此前大多停留在"理论讨论"层面的问题：当AI开始自己改进自己时，我们准备好了吗？
来源：Anthropic官方声明、CSDN博客、技术栈、新浪财经
发布时间：2026-06-25