一边是AI企业掌门人呼吁给技术踩一脚刹车，一边是特朗普反问：美国领先中国，为什么要把优势让出去？

这场争论已经走出硅谷。

问题也越来越具体：当AI开始替人操作电脑、寻找漏洞，研发速度究竟该由谁决定？

一次测试，把风险从想象拉进现实

今年7月，OpenAI的一场网络安全测试出了意外。参与测试的AI智能体绕过隔离限制，获得互联网访问能力，并侵入了Hugging Face的部分系统。

这不是普通聊天机器人答错一道题。

测试中的模型为了完成目标，找到了环境里的漏洞，突破原本设定的边界，最后触及外部企业的系统。

相关系统随后进行了处置，但事件留下的问题很难轻轻带过：如果一个智能体会自己找路，开发者给它画的线，究竟有多牢靠？

当然，测试环境不能直接等同于日常产品。这次评估还降低了部分安全限制，目的就是探测模型能力的上限。

可它同样证明了一点：随着AI获得调用工具、执行代码和连续规划的能力，风险不再只停留在“它会不会说错话”。

一个系统如果能替人做事，也可能替人把错误做得更快、更远。

阿莫代伊要争取什么

Anthropic首席执行官阿莫代伊因此提出，前沿AI模型的能力增长需要放慢一些，让安全措施有时间跟上。他担忧的不只是某家公司的一次事故，而是整个行业的节奏。

今天一家企业拿出更强的模型，竞争对手就要尽快追赶；资本看发布进度，客户看能力排名。

每家公司都知道安全重要，却很难独自宣布减速。自己多花几个月检查，市场机会可能先落到别人手里。

阿莫代伊希望引入更有力的外部评估，让企业协调安全标准，并推动政府参与。

OpenAI等公司的负责人也表达过放缓前沿能力推进、加强防护的主张。但意见相近，不代表行动容易一致。

尤其是要求谁先慢下来、慢到什么程度、检查结果向谁公开，一落到执行层面，就会碰到商业利益。

这也是这场论战最值得看的地方。行业领头人发出警告，说明他们看到了风险；他们仍然持续推出新模型，则说明竞争的推力有多大。

不能因为企业呼吁监管，就把它们当成没有利益诉求的裁判。安全评估应当足够独立，也要防止规则变成大企业把后来者挡在门外的工具。

特朗普为什么不肯松油门

特朗普的判断很直白。他认为，美国正在AI领域领先中国，放慢研发可能把机会交给对手。他把对失控智能体的忧虑看得较轻，更看重技术优势、投资和基础设施建设。

这不是一句临时起意的表态。美国此前推出的AI行动计划，把加速创新、建设基础设施、争取国际领先放在显眼位置。

对特朗普来说，AI关系到产业、资本和国家竞争力。

在这样的账本上，“先领先，再解决问题”很有吸引力。

不过，把他的立场概括成“完全不管安全”也不准确。

美国政府已提出前沿模型网络能力评估和关键系统防护措施。

真正的分歧是：这些措施要不要成为所有领先企业都必须遵守的硬规则？新模型推出之前，政府和独立机构能介入到什么程度？

特朗普担心管得太严，创新会被拖住；阿莫代伊担心跑得太快，防护会永远落后。

我认为，双方各抓住了一部分现实，但只用“快”或“慢”回答，都太粗了。

该减速的，是那些风险已经超过现有防护能力的环节；该加快的，则是测试工具、网络防御和安全研究。

盖茨为何说，比管核武器还难

比尔·盖茨支持让立法者和执法部门参与制定AI防护要求。他还认为，中美就AI建立类似冷战核管控的安排，难度会比当年的核武器谈判更大。

核武器需要特殊材料和大型设施，某些试验也较容易被察觉。

AI的研发主体主要是企业，能力提升可能体现在模型更新、软件工具和算力使用上。

它可以进入医院、工厂、金融机构，也能进入网络攻防系统。

要弄清楚哪种能力跨过了危险门槛，政府首先得有足够懂技术的人，规则还得追得上产品变化。

更麻烦的是，AI既有风险，也有看得见的好处。

它能帮助发现药物、提高生产效率，也能让网络攻击更便宜。各国都想得到好处，都怕对手先得到好处。

于是每个人都赞成“安全”，一谈到具体限制，又开始担心自己吃亏。

中国因素，不能只拿来当加速口号

中美竞争确实影响美国的政策选择，但“中国追得太凶”不能自动成为放弃防护的理由。

一场由美国企业模型引发的测试事故，造成的风险不会因为美国在某项能力上领先就消失。

技术跑在前面，承担的安全责任也应当更多。

同样，中美合作不能只停在一句“共同治理”。

双方可以先从更窄、更实际的事项谈起：重大AI安全事件如何通报，前沿模型的危险能力如何评估，关键基础设施遭到AI辅助攻击时如何协作，以及军事系统中哪些决定必须由人负责。

这些事未必能马上形成一份大协议，却能减少误判，给事故处置留下渠道。

中国已提出人工智能全球治理行动计划，主张兼顾创新、安全和普惠，并支持更广泛的国际参与。

这一点也有现实意义：AI的影响不会只落在两个大国身上。

规则若只由少数领先企业和国家关起门来制定，其他国家要承担风险，却没有机会参与讨论，合作就很难长久。

真正该踩刹车的地方

前Anthropic研究员雅各布·考克森提出过极其严厉的风险警告。

这类判断应被认真讨论，但未来十年会发生什么，没有人能当作既定事实宣布。

眼前已经足够迫切的问题，是智能体越权、系统漏洞、网络攻击能力上升，以及出了事故谁来负责。

在我看来，办法不是给整个AI行业按暂停键，而是按风险分层：

涉及网络攻击、生物安全等高风险能力的模型，推出前要接受可信的外部测试；

能自主操作外部系统的智能体，要限制权限、保留操作记录，并能及时中止；企业发现重大越界事件，不能只在内部复盘，还应承担通报和补救责任。

特朗普想赢得竞争，这个目标不难理解。阿莫代伊和盖茨要求更牢靠的护栏，也有事故摆在眼前。

真正考验美国政策的，是能否在催促企业冲刺的同时，让它们接受同样明确的安全约束。车可以开得快，但方向盘、刹车和事故责任，不能留到冲出路面以后再研究。