AI 开始“自我进化”：Anthropic 预警递归自我提升（RSI）
人工智能实验室 Anthropic 计划在今年晚些时候上市，这有望成为史上最大的 IPO 之一。其核心驱动力在于 Claude —— 尤其是 2025 年 2 月推出的软件工程代理 Claude Code，已成为全球开发者的必备工具。数据显示，Anthropic 自身超过 80% 的代码均由 Claude 编写。
从提效到“自我提升”
随着模型能力的飞跃，AI 不仅能完成人类数小时的工作，甚至能处理耗时一整天以上的复杂任务。Anthropic 联合创始人 Jack Clark 认为，到 2028 年底，AI 系统完全无需人类参与即可创建其后续版本的可能性高达 60%。
这一过程被称为**“递归自我提升”（Recursive Self-improvement, RSI）**：
- 闭环效应：第一代模型构建更强大的第二代，以此类推，迭代速度和能力呈指数级增长。
- 生产力爆炸：一旦实现全自动化闭环，人类工程师的角色可能被彻底取代。研究表明，当 AI 承担 R&D 任务比例增加时，研发生产力可能提升百倍甚至千倍。
自动化进程中的“微操”与突破
即便目前尚无 AI 能完全独立构建后续机型，但它们已展现出惊人的“微操”能力。研究员 Andrej Karpathy 使用 AI 代理 Autoresearch 对模型进行优化，在没有任何人类干预的情况下，将模型训练时间缩短了 18%。这种改进并非源于算法创新，而是 AI 在超参数调整、注意力范围优化等细节上比资深人类专家更细腻。
隐忧与物理制约
这种生产力提升虽诱人，却也引发了严重的生存焦虑：
- 失控风险：部分学者（如 Max Tegmark）担心，一旦人类失去对 AI 研发的控制，超智能 AI 可能会导致人类社会被边缘化，甚至带来不可控的灾难。
- 物理制约：目前 RSI 的进程仍受限于数据中心产能、计算资源（算力）分配以及高质量训练数据的获取难度。
尽管 Anthropic 目前在行业领先，但该公司近期公开呼吁给予世界“减速或暂停前沿 AI 开发的选择权”。在技术向 RSI 迈进的临界点，AI 是通向乌托邦还是末日，正成为科技界最紧迫的博弈。