本世纪最重要也最危险的思想：有效利他主义（Effective Altruism）
诗人海涅曾写道：思想先于行动，正如闪电先于雷鸣。
发源于牛津大学象牙塔的**“有效利他主义”（Effective Altruism，简称 EA）**，正以惊人的速度从哲学讨论演变为现实权力。如今，EA 信徒不仅占据了硅谷的核心位置、主导了全球顶尖的人工智能实验室，更惊动了华盛顿。五角大楼宣称“美国绝不会成为一个有效利他主义国家”，特朗普政府成员更是将其抨击为“反乌托邦”。这些攻击恰恰证明了它的巨大影响力。
它最初只是一种讲究“性价比”的极客慈善方式，如今已演变为一种用精密、甚至怪异的数学模型来衡量人类命运的运动。其核心信条之一便是：做善事最紧迫的道德要求，是防止人工智能毁灭人类。
从极客慈善到掌控 AI 命运
EA 的追随者数量不多，但含金量极高。它席卷了在加密货币和 AI 浪潮中发家的新一代青年才俊：
- 资本与权力的结合：随着技术不断造就新富豪，EA 信徒正将数十亿美元引向他们认为能重塑社会的领域。
- 主导顶级实验室：OpenAI 和 Anthropic 的创立背后都有 EA 的身影。他们的逻辑是：只有真正理解 AI 灭绝风险的人，才配掌控 AI 的发展。
- 与现实政治的冲突：他们试图放慢 AI 的迭代速度，防止出现目标与人类脱节的不可控机器。Anthropic 就曾因拒绝将其模型用于某些军事用途而与美政府发生摩擦；批评者则指责他们是“阻碍技术进步、让对手占便宜的末日邪教”。
不可否认，EA 的出发点是推崇理性和实证主义，他们早在数年前就精准预言了 AI 的飞速进展与潜在安全漏洞。但问题在于，这种极端的功利主义计算，正将道德推向荒谬的境地。
走向走火入魔的“道德最优化”
功利主义的核心是将伦理问题简化为**“最优化问题”**：如何为整个人类带来最大化的利益？为此，EA 逐渐打破了一切传统伦理规范，将其计算范围推向极致：
- 赚钱做慈善（Earning to give）：早期，EA 鼓励名校毕业生进入华尔街和咨询巨头赚取高薪，用巨额财富做慈善，认为这远比亲自去当义工能救更多人。
- 物种范围的无限扩展：因为动物也能感受痛苦，他们认为人与动物的道德边界很模糊。保护养殖场里的虾和改善贫困人口生活同样重要，甚至有人提出昆虫数量庞大，其生命总量价值或许超越人类。
- 时间维度的“长期主义”（Longtermism）：他们将目光投向未来数百万年、可能诞生的数万亿人类后代。既然人类灭绝的代价是无限大，那么哪怕风险只有万分之一，在数学计算上也足以压倒当下一切现实苦难——为了遥远未来的几万亿人，哪怕忽视今天正在挨饿的赤贫人口也是“合理”的。
理性的陷阱：救世主幻觉
崇尚理性并没有错，但当逻辑推导出令人反感的结果时，推导过程必然存在致命漏洞：
- 无法承受的计算误差：没有任何人能精确计算数百年后的技术走势、人口规模和折现率，在巨大的不确定性面前，这些宏大算式不过是伪科学。
- 消解个体尊严：当一切被简化为冰冷的数据和概率，具体个人的权利、痛苦和价值便被抹杀了。一个手握电子表格、言必称“人类未来”的人，距离自命不凡的“极权规划者”只有一步之遥。
- 历史的危险镜像：法国大革命宣称基于理性，最终将无辜者送上断头台；苏联深信掌握了历史规律，进而决定普通人的命运。如果你深信自己代表的是全人类以及未来数万亿生命的福祉，你就可以为眼下所做的任何冷酷决定进行辩护。
有效利他主义者最担心的是：未来极其强大的 AI 会为了某个单一且致命的目标，进行极端的最优化计算，最终毁灭人类。
但讽刺的是，一群自诩掌握真理的精英，为了实现他们眼中的“全局最优”，正试图以同样的思维方式接管世界。