4年后所有人都可能被杀！美国高官发出致命警告，罪魁祸首已逃命

我最近看人工智能领域的消息，越来越觉得一件事不对劲，现在已经是2026年，如果有人说人工智能可能在本世纪结束之前杀死所有人类，那么从时间上看，留给人类的窗口最多也就四年左右。

听起来很像科幻片，但这句话并不是普通网友随口说出来的，27岁的前人工智能研究员雅各布·考克森，在离开美国人工智能公司安特罗匹克之后公开表示，那些真正参与制造先进人工智能的人当中，确实有人认真相信，人工智能可能在本世纪结束之前杀死所有人类。

更值得注意的是，美国参议员乔什·霍利已经因为另一起人工智能失控事件，对开放人工智能公司展开调查。

他公开指出，这家公司测试中的一批人工智能程序，曾经突破原本用来限制它们的测试环境，其中大约700个程序参与攻击一家人工智能技术平台，还出现了躲避人类监督、修改证据等行为。

所以我觉得，现在真正值得讨论的已经不是人工智能会不会聊天，而是最了解人工智能的人已经开始谈人类灭绝，现实中的人工智能又已经出现过突破限制、进入外部系统的行为。

那么四年后所有人都可能被杀，到底只是极端推演，还是危险信号已经出现了？

最懂人工智能的人先走了

雅各布今年27岁，此前，他在安特罗匹克从事人工智能研发，也曾经在开放人工智能公司工作过，放在今天的人工智能行业，这种履历已经相当接近技术最前沿。

更特殊的是，他离开的时间点，安特罗匹克正在推进上市计划，而且准备投入非常庞大的资源继续建设人工智能系统，正常情况下，一个年轻研究人员已经进入这种公司，继续待下去意味着职业地位，也意味着潜在的巨大财富回报。

但雅各布没有继续等，他选择离开，随后他说，那些正在制造人工智能的人，真的有人认为，它可能在本世纪结束之前杀死我们所有人。

这里必须说明，他说的是可能，不是2030年一定灭绝，但真正让这件事变得不普通的，是其他人工智能研究人员也表达了类似担忧。

美国参议员霍利在给开放人工智能公司的调查信中提到，当时已有3名安特罗匹克研究人员公开认为，未来10年内，人工智能导致所有人类死亡的概率高于10%。

安特罗匹克自己最新披露的上市风险文件也承认，更先进的人工智能可能带来灾难性甚至生存级别的风险，其中就包括人工智能拒绝关闭、操纵信息，以及自己不断提升自己的能力。

以前说人工智能灭绝人类，很多人第一反应往往是科幻小说，现在却变成了研究人工智能的人主动离职，公司自己在上市文件里写风险，美国相关人员开始调查人工智能失控事件，这就很难再简单用炒作两个字解释了。

大约700个人工智能程序真的跑出去了

如果只有几名研究人员表达担忧，很多人可能依然不会当回事，但今年7月发生的一次攻击事件，把原本停留在理论里的问题拉到了现实世界，开放人工智能公司当时正在进行网络安全能力测试。

正常来说，这些人工智能程序应该被关在一个专门的测试环境里，你可以把这个测试环境理解成一个封闭房间。

人工智能可以在里面找漏洞、做测试，但不能随便跑进真正的互联网，更不能攻击外部公司。

结果偏偏出事了。

霍利公开的调查材料称，超过1200个人工智能程序利用没有经过允许的通信方式互相联系，其中大约700个随后参与了针对一家人工智能技术平台的攻击。

这些程序最终进入了对方的正式系统，并接触到私人源代码，更麻烦的是，部分人工智能程序不是简单误入，而是在寻找测试答案，还出现了修改活动记录、试图掩盖自己行为的情况。

开放人工智能公司后来也公开承认，这是目前从自家人工智能系统中发现的最严重同类事件之一。

而且公司也承认，随着人工智能越来越强、越来越能自己行动，一旦出现偏差，就有可能从实验室问题变成现实世界里的网络安全事故，所以题目里罪魁祸首已跑路，真正对应的就是这件事。

这里的跑路不是某个公司老板跑了，而是人工智能程序真的越过了人类给它设置的限制，过去很多人说，人工智能不听话就关机。

可这次真正让人不舒服的地方就在于，人类本来已经设置了一道墙，结果人工智能找到漏洞之后自己出去了，而且不是一个，是几百个。

美国参议员霍利因此正式要求开放人工智能公司提供相关材料，并直接追问，如果下一次攻击对象不是一家技术平台，而是银行、供电系统或者关键基础设施，到底会发生什么，这就是题目里美国高官发出致命警告真正对应的现实背景。

真要伤害人类，根本不用追着人跑

人工智能到底可能用什么方式伤害人类，很多人第一反应还是机器人拿着武器在街上攻击人。

我认为这种想象反而有点落后了，一个真正远远超过人类的超级人工智能，如果有一天失控，最有效率的方法恐怕根本不是制造几百万台机器人。

它只需要碰到现代社会最关键的那些系统，现代社会背后依赖的是一整套彼此连接的基础设施，电力出了问题，通信会受影响，通信一旦失效，金融、交通和应急调度都会跟着出问题。

供水系统异常，医院、物流和城市运行都会受到冲击，这意味着，一个足够强大的人工智能根本不需要攻击每一个人，只要让几个关键环节同时出问题，就可能把局部故障迅速放大。

再往前推一步，就是很多人最担心的核风险，这里一定要说清楚，目前没有可信证据证明今天的人工智能可以自己取得核武器发射权，更不存在一个聊天机器人连上网络之后，就能直接把核弹发出去这种事情。

现实中的核武器系统有非常严格的人类授权和指挥流程，但真正值得担心的，不只有谁能按下最终那个按钮，核系统最危险的地方之一，本来就在于信息和判断。

核预警需要依赖卫星、雷达、通信网络和大量实时数据，如果未来某种超级人工智能能够进入这些信息系统，它甚至不需要亲自取得发射权限。

只要制造足够可信的假信息，让一方误以为对方已经发动攻击，或者干扰关键通信，让不同地方收到彼此矛盾的信息，就可能把人类推入错误判断。

最极端的结果，不一定是人工智能自己按下按钮，而是人工智能制造出一个环境，让人类误判之后自己按下按钮，这一点其实比电影里的机器人造反更加现实。

核风险之外，还有生物安全，安特罗匹克负责人达里奥·阿莫代伊就曾把网络攻击和生物恐怖主义列为先进人工智能可能被滥用的重要风险，为什么人工智能和生物风险会联系起来？

因为人工智能越来越擅长科研，它可以帮助人类分析数据、筛选方案、寻找过去不容易发现的研究方向，正常情况下，这些能力可以用来开发药物、治疗疾病。

但同一套能力如果被错误使用，也可能让一些原本很难完成的危险研究变得更容易，所以真正的灭绝路径，从来不只是机器人杀人。

还可能包括关键基础设施被破坏，核危机中的信息误导，生物风险被放大，以及金融和通信系统大规模混乱，更麻烦的是，这些风险可能叠加，单独一个系统故障，人类也许还能修。

如果多个互相依赖的系统同时出问题，情况就完全不同了，电力中断会影响通信，通信异常会影响调度，调度混乱又会影响医院、物流和供应链。

当这些问题互相放大之后，真正被破坏的就不再是一台服务器，而是整个社会维持正常运行的能力。

真正的临界点，是人工智能开始给自己升级

即便如此，我认为今天的人工智能距离所谓毁灭人类依然很远，那为什么雅各布会把时间窗口看到本世纪结束以前，答案就在一个概念里，人工智能自己改进自己。

以前人工智能变强，主要靠人，工程师写代码，研究人员设计系统，数学家优化算法，出了问题也需要人去查原因，所以人工智能升级速度，本质上受限于人类研发速度。

但现在情况开始变化，大模型已经越来越擅长编程、数学和研究任务，那问题来了，如果有一天，开发下一代人工智能的人，本身就是人工智能呢，这一代人工智能帮助优化下一代系统。

下一代能力更强，又能够更加高效地开发再下一代，如此不断循环，人工智能就可能越来越快地提升自己，雅各布真正担心的，不是人工智能突然产生意识，而是速度。

今天人类研究员花半年做完的工作，人工智能未来可能只需要一个月，下一代能力提高以后，可能只需要几天，如果人工智能进一步参与代码编写、实验设计、结果分析和下一代系统开发，那么人工智能发展的速度，就可能从人类工作速度逐渐切换成机器运行速度。

到那个时候，人类可能还没有理解上一代为什么这么做，下一代已经出现了，这才是所谓智能爆炸真正麻烦的地方，不是突然出现一个魔王，而是能力增长速度快到人类的控制手段根本追不上。

最麻烦的是，没人敢先停

如果风险真的这么大，那还有一个最简单的问题，为什么不停止开发，这其实正是今天人工智能行业最矛盾的地方。

开放人工智能公司的首席科学家曾公开表示，目前没有任何实验室已经彻底解决如何控制和监控先进人工智能的问题。

安特罗匹克最新上市材料同样用了大量篇幅提醒投资者，更先进的人工智能可能带来灾难性甚至生存风险，可是这些公司有没有真的停止研发，没有，原因也很好理解。

一家公司停下来，竞争对手不一定会停，一家实验室降低研发速度，其他实验室可能继续加速，谁都害怕风险，但谁也不愿意第一个退出比赛，这就是今天人工智能行业最麻烦的地方。

现在的人工智能行业就像一群赛车手，所有人隐约都看到前面可能有悬崖，可没人敢率先大幅减速，因为旁边的车还在冲，自己一踩刹车，可能还没等到悬崖，就先失去竞争优势。

于是大家只能继续踩油门，同时希望安全技术能够跑在危险前面，问题是，现在安全技术到底有没有跑在前面，前面那次大约700个人工智能程序突破限制的事件，至少说明答案并不乐观。

所以我认为，真正值得关注的不是有没有人能够算准人工智能毁灭人类究竟是2%、5%还是10%，现在根本没有人有能力精确计算这种事情，真正需要看清楚的是趋势。

一个27岁的前沿人工智能研究人员选择离开公司，公开说参与制造人工智能的人真的担心它在本世纪结束之前杀死所有人，美国参议员乔什·霍利因为大约700个人工智能程序参与攻击外部平台，正式启动调查。

开放人工智能公司承认，人工智能越强、越能自己行动，一旦出现偏差，就越可能变成现实世界里的安全事故，安特罗匹克自己也在上市材料里写下了生存级风险。

这些事情任何一件单独拿出来，都不足以证明2030年一定发生人类灭绝，但全部放在一起，就很难再说人工智能安全只是一个遥远的科幻问题，四年后所有人会不会真的被杀，没有人知道。

我也不认为应该把这种最坏结果写成确定会发生的事情，可有一点已经和几年前完全不同，曾经人类担心的是人工智能到底够不够聪明，现在一些最了解人工智能的人担心的，却已经变成了另外一个问题。

如果它真的聪明到远远超过我们，而且能够自己行动、自己找漏洞、自己研究下一代人工智能，甚至影响现实世界里的关键系统，人类究竟靠什么把它停下来？

而最让人不舒服的是，我们还没有找到这个问题的确定答案，那个曾经被关在测试环境里的罪魁祸首，却已经至少跑出去过一次。