《柳叶刀》警告 ：AI比核武器更可能毁灭人类

你知道吗，哪怕与传染病、气候变迁、战争、核威胁等相比，到2100年前最可能让人类消失的竟是AI——这个令人震惊的观点，来自《柳叶刀》的权威报告。

《柳叶刀》在10月11日发布的《21世纪全球健康威胁》委员会报告中指出，在气候变化、传染病、污染等17种威胁里，核冲突与人工智能的恶意使用被列为最高风险，可能在2100年前导致人类灭绝。

该报告由35位顶尖专家共同撰写，研究覆盖全球204个国家和地区，同时报告还警告，这些威胁可能相互影响并彼此增强。

报告最让人不寒而栗的部分在于，尽管AI和核冲突都是毁灭人类的首要难题，但AI造成的破坏远超核冲突。

如果AI末日论是阿莫迪说的，我可能只当个笑话听，毕竟类似的说法已经听过太多，我耳朵都快起茧了。

但这次是《柳叶刀》说的，我真的有些害怕了。

《柳叶刀》是怎么说的？

《柳叶刀》这份报告由华盛顿大学的健康指标与评估研究所（IHME）牵头。他们把未来75年可能影响人类健康的威胁，按严重程度排列成一座“威胁金字塔”，最顶端是一个单独的类别：

有可能在2100年前导致人类灭绝的威胁。

这个类别中只有两项，一是核冲突引发的“核饥荒”，二是人工智能的恶意使用。

即便是行星撞地球和超级火山喷发，也没有进入金字塔的塔尖，因为委员会认为它们在未来75年发生的概率“极低”。

但这并不表示“AI一定会灭绝人类”。

报告原文写道，这两类风险“发生的可能性依然很低”，但一旦发生，后果将是整个人类层面的。

报告中有一个单位叫DALYs，代表“伤残调整生命年”，简单来说就是一个人因疾病、残疾或早逝，总共损失了多少健康生活的年份。

委员会用它来衡量每种威胁，最终到2100年能造成多少“健康寿命的损失”。

恶意使用AI到2100年可能造成约104亿 DALYs的损失，其规模与肥胖大致相当。而核冲突会造成大约1.33亿人死亡，以及约93.5亿DALYs的损失。

《柳叶刀》认为，AI比核武器更危险。委员会特别强调，这样设计是为了衡量“可采取行动的杠杆”，而不是渲染最悲惨的结局。

那么，AI究竟如何“灭绝”我们呢？是《终结者》里的天网？还是《流浪地球》里的MOSS？

都不是。《柳叶刀》认为，AI毁灭人类的路径只有一条，即生物武器。

有人恶意利用AI，去设计或改造能造成大规模伤亡的病原体或毒素。

《柳叶刀》的论据是，AI正在降低做危险事情的门槛。

过去，改造一种病毒需要顶尖实验室、昂贵设备，以及研究者多年积累的“手感”和隐性知识。大模型能做的，恰恰是帮人查文献、设计实验方案、写出申请材料、解释每一步为什么要这样做。

2026年9月10日，Anthropic发布了一份威胁情报报告，里面披露了他们在2025年12月到2026年8月之间拦截的几类滥用，其中有5起案例，是用户以“可能支持生物武器研发”的方式使用Claude：

• 有人在今年5月让Claude帮忙撰写一份基金申请书，研究基孔肯雅病毒中哪些突变能让它传播得更高效、更容易逃过免疫系统。

• 有人用它规划实验，想让高致病性禽流感病毒更适应哺乳动物宿主。

• 有人起草申请书，研究如何改变正痘病毒家族（天花和猴痘都属于这个家族）的毒力。

• 有人在做药物研发项目时整理毒液毒素的图谱。

• 还有科研人员用Claude帮忙对一组毒素做计算机重设计，其中包括一种细菌毒素和一种来自重大疾病威胁病毒的蛋白，而且在写进展报告时，刻意用了含糊的词来指代这些毒素。

因此，滥用AI，一定会对整个人类族群造成不小的伤害。

AI末日论已划分成了两个阵营

事实上，在《柳叶刀》这份报告出来之前，AI末日论每个月都会有，比如9月，各行各业都在辩驳AI是否会带来末日。

9月8日，前Anthropic研究员雅各布·考克森（Jacob Coxon）宣布辞职，并公开说OpenAI和Anthropic都在“拿人类生命下注”，AI“可能在本十年结束前杀死我们所有人”。这条帖子在很短的时间内获得了过亿浏览。

第二天，Anthropic对齐科学负责人埃文·胡宾格（Evan Hubinger）发文表示：“我们确实认真地相信AI可能杀死所有人，我个人认为未来十年内的概率超过10%。”

AI教父辛顿随后也表示，10%这个数字“不算离谱”。

三天后，阿莫迪抛出一个更具体的说法。他认为在6到12个月内，一群Agent有可能接管整个互联网，造成数千亿美元的损失。

奥特曼和马斯克这两个死对头站在了同一条战线，支持“放慢AI发展的节奏”。

正方火力虽然很猛，可反方实力也不弱。

黄仁勋在采访中提到，2030年前AI毁灭世界的概率是0%。他认为埃文提到的“10%概率AI杀死所有人”是没有科学依据的，并且这是一个“不负责任”的直觉。

“无法安全控制的AI就不该发布。”黄仁勋说到。

AI Now研究所的首席科学家海迪·克拉夫（Heidy Khlaaf）认为，不管是10%也好20%也好，“既不可证伪，也无法验证，因此从本质上就不科学”。

认知科学家盖瑞·马库斯（Gary Marcus）表示，“Agent接管互联网”的说法非常地“荒谬”。

他的理由是，互联网的大部分底层设施掌握在Cloudflare、谷歌和亚马逊AWS这样的大公司手里，没有政府力量介入，很难设想它们被长时间攻破或控制。

他还引用了英国AI安全研究所的评估报告，Anthropic最强的Mythos模型，到头也只能自主攻破“小型、防护薄弱”的系统。只要对方稍微完善一下网络安全防护，Mythos就毫无办法。

放在一起看，你会发现这场争论有一个非常有意思的地方：

正方说的是“后果”，反方说的是“证据”。

一边强调，只要概率不为零，后果就是无法承受的；另一边强调，你连这个概率是怎么算出来的都说不清楚，凭什么让全世界跟着紧张？

此外，阿莫迪、奥特曼虽然主张放慢节奏，但媒体指责他们是在用安全之名给自己筑护城河，让后来的竞争者进不来。

学界则比较支持正方。

比如论文《AI如何消灭人类？文明风险的失效模式分析》（arXiv:2610.08878）中就提到，灾难性的AI风险，并不需要AI有意识、有敌意，或者有明确的伤害意图。

风险可以通过几条相互交织的路径出现：自主失准、人类的恶意使用、组织失败，以及竞争性部署。作者还特意说明，论文是“非操作性”的，只分析成因，不提供作恶的方法。

不过到目前为止，这场争论里没有哪个人真正“赢”了。

本文来自微信公众号“字母AI”，作者：苗正，36氪经授权发布。