国会如何避免AI灾难：四项核心制度转变
多年来，AI科学家始终警告：人类正在开发自己无法完全掌控的技术。美国国会曾长期对此视而不见，甚至在2024年呼吁否决州级AI安全法案，将风险贬为“科幻臆想”。但今年夏天OpenAI模型引发的Hugging Face安全事件打破了这一局面，政界开始重新审视AI安全威胁。
当前两党提出的《FRONTIER法案》等监管提案迈出了重要一步，但仅聚焦最强前沿模型或过早压制州级监管远远不够。为在争取评估时间的同时防范重大风险，美国国会应当推行四项关键变革：
1. 豁免反垄断限制，允许企业达成“安全降速”共识
头部AI实验室常以“反垄断合规风险”为由，避免与其他机构公开达成放缓研发的协议。法律不应迫使企业在法律模糊地带陷入危及人类安全的恶性军备竞赛。国会应明确：在不违背反垄断法核心宗旨的前提下，允许竞争对手协调放缓研发节奏以优先完善安全技术。
2. 全面禁止未经认证的“递归自我改进”AI
对于能够自主设计、迭代新AI模型的“递归自我改进（Recursive Self-Improvement）”技术，必须予以严格限制。在类似FDA（食品药品监督管理局）级别的权威机构完成安全认证前，全面禁止企业开发此类可能迅速超越人类控制能力的自我强化型模型。
3. 明确损害赔偿责任，引入强制性AI保险制度
国会应从法律上确认科技公司对其技术所致危害的法律责任，并强制其购买相关风险保险。借鉴核能产业发展的保险支持经验，通过保费高低建立市场化调节机制——低风险技术享有更低保费，以此引导企业主动拥抱更安全的技术路线。
4. 建立健全针对AI实验室的吹哨人保护机制
现行吹哨人法律通常仅涵盖违法犯罪行为，但忽视AI安全违规并不属于刑事犯罪。国会必须为揭露模型安全隐患、向监管机构报案的内部从业人员提供强有力的法律保护，这是外界洞察前沿风险的生命线。
监管顾虑与全球协作
- “阻碍创新、利好他国”是伪命题：外界常担忧强监管会让竞争对手获利。实际上，中国对AI的监管框架比美国正在讨论的任何方案都更为严苛，且算力资源有限，更多专注于制造业与实体经济应用。建立严格的安全防线不会削弱竞争力，反而能促使行业从单纯追求模型参数转向实体落地。
- 跨越党派共识：吹哨人保护与反垄断适度松绑在两党均有既定政策基础，最关键的分歧在于对“递归自我改进”划红线以及搭建AI强制保险体系。
- 国际联防替代单打独斗：安全测试与审计能力不应由美国独揽。英国、欧盟、加拿大、日本和韩国等均已成立前沿安全机构并共享研究成果，全球需构建协同防御网络。
当最接近这项技术的核心科学家警告“人类灭亡概率可能达10%”时，政策制定者必须在灾难成为现实之前采取行动。