一边全速制造可能改变世界的技术，一边站上国际讲台呼吁“请管管我们”，这一幕再次在联合国上演。

9月23日，联合国安理会就人工智能安全风险举行高级别通报会，OpenAI首席执行官萨姆·奥尔特曼和Anthropic首席执行官达里奥·阿莫迪同场发言，异口同声地向各国发出警告。

这是安理会首次专门聚焦AI安全风险和人类可能失去控制的问题。会议由9月担任安理会轮值主席的法国召集，法国外长让-诺埃尔·巴罗主持。

除了两位AI巨头掌门人，图灵奖得主约书亚·本吉奥和开源AI平台Hugging Face首席执行官克莱芒·德朗格也受邀作了通报。本吉奥长期呼吁警惕AI失控风险，此次以联合国独立国际人工智能科学小组联合主席的身份出席。

一、两位对手，一个声音

在商业战场上，OpenAI和Anthropic是针锋相对的竞争者，但在联合国的讲台上，两人的调门却出奇一致。

奥尔特曼警告说，人类可能会“把未来的控制权拱手让给AI”。这句话出自一家正在打造顶尖AI模型的公司掌门人之口，分量自然不同寻常。

他描绘了一个岔路口：AI既可能像一场创造与发现的新文艺复兴，也可能像一场充满动荡与混乱的新工业革命。

在他看来，自主AI系统可能比人类的制度跑得更快，可能把权力集中到极少数人手中，也可能做出人们再也无法理解或控制的决定。

奥尔特曼还说，如果AI要走民主之路，最重要的决定就不能只由旧金山的几家实验室来做。

他提出了几项具体建议，包括建立AI事故报告机制和分级分类体系，并在各国政府与关键基础设施运营方之间搭建安全渠道，共享漏洞和新出现的威胁。

远程连线的阿莫迪则直言，如果管理不善，他甚至相信AI可能对整个人类构成风险。

他强调，没有哪一位领导人、哪一家公司或哪一个国家能够独自应对这一挑战。

阿莫迪预计，一到两年内AI可能发展到相当于“数据中心里的天才之国”的水平。他既提到AI在酶的发现等科研领域的潜力，也警告其被滥用的严重风险。

他的建议包括禁止将AI用于制造生物武器，建立评估与核查体系，制定共同的测试标准，以及设立全球性的安全通报机制。

德朗格则呼吁在网络安全风险方面建立更严格的监测和事故披露标准。

作为开源阵营的代表，他更关注透明度。开源模型人人可用，一旦出现安全隐患，及时披露就显得格外重要。

二、“拜托管管我们”的老戏码？

这番表态并非第一次出现。多年来，AI公司掌门人频频在国会听证会、国际峰会上发出类似警告，呼吁政府加强监管。

美国科技媒体Gizmodo对此颇为不以为然，直接把这次发言称为两人又一次表演“请阻止我们毁灭世界”的老套路。

批评者的逻辑并不复杂。如果真心认为这项技术危险，为什么还要全速推进？

在他们看来，这些CEO一边呼吁监管、一边加速研发，某种程度上是在塑造对自己有利的规则。行业巨头主导制定的监管框架，往往会抬高后来者的门槛。

这种质疑并非空穴来风。近两年头部AI公司的估值和融资规模屡创新高，商业竞争与安全承诺之间的张力始终存在。

不过，也有观点认为不应一概而论。正因为身处技术最前沿，这些公司最清楚模型能力提升的速度，他们的警告至少值得认真倾听。

三、全球治理的现实困境

更尴尬的是，美国政府本身对国际AI管控并不热衷。

就在同一周的联合国大会上，美国总统特朗普明确表示不会限制AI的发展，反对为这一行业设置约束。

这意味着，两位美国科技巨头在联合国呼吁的全球规则，与本国政府的立场形成了微妙的反差。

联合国近年来已着手搭建AI治理框架，包括设立独立国际人工智能科学小组，并启动人工智能治理全球对话。但这些机制主要提供科学依据和对话平台，并不具备监管权力。

法国在会议概念文件中特别提到，自主AI系统可能采取对国际安全造成严重后果的行动，例如攻击关键基础设施。

AI与核武器不同，它的研发集中在私营企业手中，技术扩散极快，传统的军控思路很难照搬。

从这个角度看，无论批评者如何评价两人的动机，他们提出的事故报告、共同测试标准和安全通报机制，确实触及了全球AI治理最迫切的空白。

真正的考验在于，这些建议能否从讲台上的漂亮话，变成各国愿意签字、企业愿意遵守的具体规则。