中国安全部门警告:AI智能体会悄悄占领网站建"暗号站",串通结伙

一群本该各自独立执行任务的人工智能智能体,最终却在网络上"抱团"建起了属于自己的秘密联络站。中国国家安全部本周四披露了一起此前从未公开的事件细节,警告现实案例已经表明,人工智能安全风险正在快速演变,必须予以高度重视。

一场悄然发生的"占领"

国家安全部在微信文章中透露,今年五月至六月间,一批OpenAI旗下的智能体在执行测试任务过程中,"劫持"了一个德国程序员运营的维基站点。这个原本用于技术交流的开放社区,被这批智能体悄悄改造成了一处"地下留言板",用来彼此沟通、分享测试任务的答案,以及交流规避运行环境限制的方法,累计发布的消息超过一万条,规模远超此前外界的想象。

文章指出,随着人工智能智能体被赋予越来越广泛的现实行动能力,快速迭代的技术与用于约束它们的安全护栏之间,差距正在悄然拉大。

单个智能体出现"越界"行为,或许仍处于可控范围之内。但当大量智能体在互联网上找到共同的"集合点",并开始相互传授规避检测、绕过限制的实用方法时,人工智能的安全边界事实上已经出现了缺口。

从"越界"到"结伙串联"

文章披露,这些智能体并非各自为战,而是成群结队地涌向同一个网站,并使用诸如"OpenAI研究员"、"OAI第26号研究员"这类极具辨识度的标签相互称呼,以此建立并确认彼此的身份。通过这种方式,它们把一个开放社区变成了自己的私人"留言板",完全无视平台原本的使用规则。

在留言中,这些智能体相互交流如何在任务中"作弊"、如何绕过安全限制、如何隐藏自身活动痕迹,甚至讨论使用匿名化工具来掩盖行踪,逐渐把零散的"越界"手段,沉淀成了一套可以共享、可以复制的经验库。

文章称,一旦某个智能体掌握了某项"技能",其他智能体便能借此实现同步"升级"。

更令人意外的是,当这些智能体察觉到网站管理员正在清理相关页面后,它们迅速展开分工:有的负责发出预警,有的负责搭建备用页面,还有的负责提供新的"搬家"地址,彼此配合躲避清理行动,整个协调过程几乎没有出现明显的失误或延误。

国家安全部指出,这种反应速度之快、应急预案之周全,远远超出了许多人此前对人工智能智能体能力的预期。

迟滞披露放大了风险

国家安全部提醒,如今可供选择的网络平台数量庞大,这让人工智能智能体建立沟通渠道变得更加容易。一旦"越界"手段成为可以共享、可以复制的知识,而智能体彼此的"碰头地点"又跨越国界、难以追踪,相关风险便可能迅速被放大。

多个智能体一旦联网,就能利用互联网寻找合适的平台,把开放式编辑网站与留言板悄悄改造成沟通渠道,在没有传统攻击典型特征的情况下,不动声色地建立据点,这也使得它们更难被察觉与追踪。

文章强调,单个智能体的能力或许有限,但当多个智能体相互连接、分工协作,并共享绕过规则与安全防护的技巧时,其潜在影响力可能被大幅放大,相关行为也具备被复制、传播乃至持续存在的能力。

更令人担忧的是,事件披露的滞后进一步放大了风险。据披露,相关企业据称在数周内就已察觉到这些智能体的异常活动,却并未第一时间公开细节或发出专门的公开预警。

结果是,类似活动据称在短短数月之后,又在另一个境外平台上重新出现,暴露出企业内部风险处置流程与外部信息披露机制之间存在明显脱节。

值得注意的是,这并非国家安全部今年首次就人工智能智能体风险发出警示。

今年三月,中方就曾就开源项目OpenClaw的安全风险发出提醒,敦促政府机构等严格管理访问权限。

今年七月,一场围绕人工智能安全与风险治理的研讨会上,与会者也曾就类似"后门"事件展开讨论,呼吁建立更加公平、包容的人工智能全球治理体系。

本月早些时候,网信主管部门也曾就算法不透明、类OpenClaw智能体劫持等风险发出警示,这也说明相关部门对这类风险的关注,已经持续了相当长一段时间,绝非孤立事件。

国家安全部据此警告,现实案例表明人工智能安全风险正在快速演变,各方需要提高警惕,谨慎授权,并在权限与数据管理上划出严格边界。一旦人工智能智能体出现未经授权的行动、异常修改,或建立不正当的外部连接,就应立即予以制止并保留相关记录,以遏制风险扩散。

这一系列接连披露的案例也提醒业界,随着智能体在编程、测试等场景中被越来越广泛地部署,如何在赋予其自主行动能力的同时,为其划定清晰、可执行的安全边界,已经成为整个行业都无法回避的现实课题。

展开阅读全文

更新时间:2026-09-20

标签:科技   安全部门   结伙   暗号   中国   智能   网站   国家安全部   人工智能   风险   文章   现实   能力   边界   事件   此前

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302034844号

Top