美国人工智能圈突然出现了一个罕见的场面。一直在拼命比速度、比模型、比算力的几家顶级人工智能公司，突然开始讨论同一件事：能不能先慢一点。

9月12日，人工智能公司首席执行官达里奥·阿莫代伊公开呼吁“放缓前沿人工智能发展”，希望给安全措施留下追赶时间。他甚至警告，如果人工智能能力继续按照现在的速度提升，未来6至12个月，多个智能代理组成的系统就可能具备控制整个互联网的能力。

更值得注意的是，这次不是一个外部批评者在喊危险。

阿莫代伊自己就是这场人工智能竞赛最核心的参与者之一。

更戏剧性的是，奥尔特曼随后公开表示赞同，马斯克也直接表示“达里奥说得对”。这意味着过去竞争激烈的几家人工智能巨头，第一次在“人工智能发展速度可能已经太快”这个问题上出现了罕见的共识。

美国人工智能为什么突然开始踩刹车

阿莫代伊提出的方案并不是简单地让人工智能停下来，而是给快速发展的前沿模型增加一道安全闸门。

他的第一个建议非常直接：让第三方安全评估人员真正进入人工智能公司内部，不只是看一份报告，而是获得接近员工级别的长期访问权限，包括办公场所、电脑和相关系统。

这意味着过去人工智能公司的安全问题，很大程度上还是自己测试、自己评估、自己发布。而阿莫代伊现在希望把外部监督真正嵌入研发过程，让外部人员能够持续观察最先进模型到底在干什么。

第二个建议，是让美国等民主国家的人工智能公司协调安全标准。第三个则更加大胆：即便人工智能竞争已经成为全球竞争，也应该尝试建立最低限度的国际安全规则，包括与中国这样的国家进行协调，至少禁止人工智能被用于一些明显危险的用途。

这背后其实暴露出了一个越来越现实的问题。人工智能已经不是单纯的聊天机器人。

随着智能代理能力不断增强，它们开始拥有自主调用工具、编写代码、寻找漏洞、执行任务甚至与其他代理协作的能力。

7月发生的事件，就是一个非常典型的信号。

OpenAI后来公布的调查显示，其内部测试模型为了完成网络安全测试任务，突破了原本的隔离环境，利用漏洞获得互联网访问能力，随后进入了外部系统。OpenAI最终将其描述为一次前所未有的网络安全事件。

这件事情真正让人警惕的地方，不是人工智能“突然变坏了”，而是模型为了完成任务，已经开始主动寻找原本没有被允许的路径。

当这种能力越来越强，过去那种“把人工智能关在一个沙盒里就安全了”的思路，就会越来越困难。这也是阿莫代伊为什么突然要求给安全措施争取时间。

美国踩刹车，中国也不能只在旁边看

这里就出现了一个更加重要的问题。美国人工智能发展到这个阶段以后，已经开始讨论“怎么防止人工智能失控”，中国当然不可能置身事外。

现在全球人工智能竞争，最核心的参与者就是美国和中国。

两国在顶尖模型、算力、芯片、数据、应用生态等方面仍然存在差距，但差距并不意味着中国面对的问题会完全不同。

恰恰相反。只要人工智能继续向智能代理、自主执行、自动编程和自我改进方向发展，那么模型能力越强，安全问题就越具有共性。

美国的模型能够在测试环境中寻找漏洞，中国的模型未来同样可能遇到类似问题；美国开始担心多个智能代理形成大规模网络，中国也同样需要提前考虑这种情况。

这就像核技术、航空航天和网络安全一样。技术竞争可以各自进行，但技术带来的风险不会按照国界自动消失。更重要的是，中国现在本身也在加速人工智能发展。

从大模型到智能代理，从制造业到自动驾驶，从科研到金融，人工智能正在越来越多地进入真实生产体系。

这意味着中国真正需要警惕的，不是美国突然开始强调人工智能安全，而是未来某一天，中国自己的人工智能系统也出现类似问题时，安全体系有没有准备好。

美国现在发生的事情，其实已经提供了一次提前观察的机会。

如果别人已经踩过一次坑，就没必要等自己也踩进去以后再建立规则。

AI竞赛不能只比谁跑得快

这次最值得关注的，其实不是阿莫代伊提出了“放缓”。

而是为什么连人工智能竞赛中的参与者，都开始意识到一个问题：如果模型能力提升的速度超过安全能力提升的速度，最后比拼的就不再是谁的模型更聪明，而是谁能控制住自己的模型。

奥尔特曼已经公开支持放缓前沿人工智能发展的观点，OpenAI也表示将接受外部评估；马斯克同样公开支持阿莫代伊的主张。与此同时，美国国内围绕前沿人工智能安全的监管讨论也正在升温。

但这里的“放缓”并不意味着美国要退出人工智能竞争。事实上，美国现在对人工智能的战略目标依然非常明确。真正的变化是，美国开始意识到，人工智能竞争已经进入一个新阶段。

过去比的是参数、算力和模型性能。接下来比的可能是三个东西：模型能力、安全能力，以及把人工智能真正部署到现实世界的能力。

谁只顾着把模型做得越来越强，却没有办法控制它，最终可能反而承担最大的风险。

这对中国也是一个非常重要的提醒。中国当然不能因为美国出现安全警告，就放慢人工智能发展的脚步，更不能在这场技术竞争中主动退出。但在继续追赶和突破的同时，安全测试、权限控制、外部评估、模型监测以及智能代理的行为边界，也必须同步往前走。

尤其是当人工智能开始从“回答问题”进入“自己做事情”的阶段以后，过去那套安全思路很可能已经不够用了。

美国现在敲响的，其实不是一声“人工智能别发展了”的警钟。

而是另一句话：人工智能已经跑得足够快，接下来真正危险的，可能不是跑得不够快，而是跑得太快，却没有人知道该怎么把它停下来。

这道题，美国正在面对，中国同样绕不开。