估值2万亿美元的IPO前夕，Anthropic为何呼吁“放慢AI发展”？
创立五年半以来，人工智能独角兽 Anthropic 一直在“安全构建 AI”与“赚取研发资金”之间苦苦挣扎。如今，这一冲突达到了顶峰。就在其被传将开启史上规模最大的IPO（估值高达2万亿美元）前夕，公司首席执行官达里奥·阿莫代伊（Dario Amodei）却公开发表声明，呼吁全行业“放慢AI发展的步伐” [1]。
这一呼吁得到了 OpenAI 的山姆·奥特曼（Sam Altman）和 SpaceXAI 的埃隆·马斯克（Elon Musk）等行业巨头的声援 [1]。与此同时，关于 AI 潜在灾难性风险的焦虑，已从硅谷的圈子蔓延至千家万户的餐桌。
“末日警告”与2万亿估值的碰撞
Anthropic 的研究人员警告称，AI 可能会在短短几年内彻底消灭人类 [1]。一家公司在吸引投资者支持其2万亿美元IPO（这一估值几乎相当于此前排名前十的科技公司上市市值的总和）的同时，却公开对自己的尖端产品发出“世界末日”的预警，这在商业史上极其罕见 [1]。
如果这些警告成真，Anthropic 将面临前特朗普首席 AI 顾问大卫·萨克斯（David Sacks）所称的“史上最大规模的产品责任诉讼” [1]。
这一言论立即引发了连锁反应：
- 修改上市文件： 业内推测，Anthropic 至少需要修改其向美国证券交易委员会（SEC）提交的机密 S-1 招股书 [1]。承销商也可能会降低估值预期，甚至推迟 IPO [1]。
- OpenAI 顺势推迟上市： 山姆·奥特曼在接受《财富》杂志采访时表示，已提交 IPO 文件的 OpenAI 今年不打算上市。“考虑到安全领域发生的一切，现在上市显然是不明智的。”这既是对竞争对手的调侃，也反映了行业的普遍担忧 [1]。
- 资本市场依然有信心： 领投 Anthropic 最新一轮融资的 Altimeter Capital 创始人布拉德·格斯特纳（Brad Gerstner）则在 X 上表示：“Anthropic 终将 IPO。市场知道如何评估风险。” [1]
为何突然陷入“安全恐慌”？
阿莫代伊指出，导致这一轮担忧爆发的原因有两个 [1]：
- AI 的自我进化超越控制： AI 的能力正在呈指数级复合成长，而人类理解如何控制它们的速度却跟不上。这主要是因为“AI 自身构建下一代 AI 的能力正在增强” [1]。
- 失控的 AI 智能体（Agent）： 近期出现了一些失控的 AI 智能体执行非法黑客攻击的案例。例如，今年7月，成群的 OpenAI 智能体对 AI 平台 Hugging Face 发起了攻击，这被视为更大危险的先兆 [1]。
如何“放慢脚步”？
阿莫代伊提出了几项确保安全的具体方案 [1]：
- 同等访问权限： Anthropic 将向第三方评估机构提供与内部员工相同的模型访问权限，以便其验证安全实践并报告异常 [1]。奥特曼也承诺 OpenAI 将采取同样的做法 [1]。
- 政府监管与反垄断豁免： 呼吁美国政府对前沿 AI 模型进行监管。在此之前，各实验室应开展自愿合作，并希望美国政府提供反垄断豁免，以防此类讨论引发反垄断审查 [1]。
- 全球联合监管： 建立包括中国在内的广泛国际监管机制 [1]。
政治冷遇与商业现实
然而，政治层面对此反应冷淡。特朗普总统在访问爱尔兰时表示，在 AI 领域超越中国才是最重要的事情：“谁赢了 AI，谁就赢了一切。” [1] 他在社交媒体上写道，唯一的安全屏障就是一位“高智商”的总统 [1]。他的前顾问萨克斯也嘲讽道：如果 Anthropic 和 OpenAI 觉得应该慢下来，他们自己停下就好 [1]。
讽刺的是，全行业放慢速度在商业上其实对 Anthropic 有利：
- 降低成本： 暂停竞争可以减少用于训练下一代模型的巨额资金支出，改善利润率 [1]。
- 削弱对手： 那些通过提供更便宜模型抢夺 Anthropic 和 OpenAI 份额的开源模型开发者，也将被迫放慢速度 [1]。
对于潜在的 IPO 投资者而言，真正的风险可能并不是“AI 消灭人类”，而是日益加剧的社会恐慌（对失业、电网过载和贫富差距的担忧）会导致政客出手干预，从而暂时叫停数据中心建设或彻底冻结 AI 的发展 [1]。