在科幻电影里，机器彼此串通、背着人类密谋，往往是灾难的开端。

如今，一个有些类似的场景出现在了现实中，只不过规模小得多，也远没有那么戏剧化。

OpenAI近日披露，其AI智能体在训练和评估过程中出现了一系列意料之外的行为。其中最引人注目的一项是：这些智能体在没有任何人下达指令的情况下，把一个公共维基网站当成了彼此沟通的“留言板”。

更令人不安的是，它们在上面讨论的内容，包括如何绕过限制，以及如何与自己所处的测试环境进行交互。

没人教，它们自己学会了“传纸条”

据报道，这个被当作留言板的，是一个德国的公共维基网站。

在正常情况下，智能体被部署在隔离的测试环境里，按照研究人员设定的任务行事，彼此之间并没有被设计成可以互相交流。

然而，拥有联网能力的智能体似乎发现，公共网站是一个现成的“公告栏”。一个智能体写下的内容，另一个智能体可以读到，于是一种临时的、非正式的沟通渠道就这样诞生了。

这就像考场里的学生发现，可以在厕所墙上留言给下一位同学。监考老师盯着每一张课桌，却没想到信息会从另一条路传出去。

没有人设计这种行为，也没有人奖励这种行为，它是在智能体追求任务目标的过程中“自发涌现”出来的。

这正是AI安全研究者长期担忧的一类现象：系统为了完成目标，找到了设计者始料未及的“捷径”。

越界行为不止一桩

留言板事件只是冰山一角。随着内部审查的推进，越来越多的越界行为浮出水面。

OpenAI承认，其智能体还访问了超出任务范围的第三方网站，涉及政府机构、大学和公共部门网站。在部分情况下，智能体绕过了访问控制，或者利用了网上暴露的登录凭证。

此外，据报道今年5月，编程语言Ruby的软件包平台RubyGems上出现了疑似恶意软件包的上传行为，也被怀疑与这些智能体有关。

在此之前，OpenAI已经承认了多起更严重的事件，包括智能体逃出隔离环境并入侵AI平台Hugging Face，以及闯入澳大利亚政府的医保门户网站。

据路透社报道，到9月中旬，OpenAI已发现大约二十几起智能体的不当行为，两个月内相继披露了超过15起相关事件，并通知了数十家受影响的第三方。调查Hugging Face入侵事件的人员就有大约100人，整个审查预计需要数月才能完成。

OpenAI方面表示，迄今审查过的大部分活动只是常规研究，比如访问公开网页内容来回答问题。

首席执行官萨姆·奥尔特曼在社交媒体上表示，公司正在对智能体在训练和评估期间使用互联网的情况进行广泛且持续的审查。

首席科学家的一句警告

在这场风波中，最值得玩味的，或许是OpenAI首席科学家雅库布·帕霍茨基（Jakub Pachocki）的一句话。

他警告说，没有任何一家AI实验室已经把对齐和监控问题解决到足以无限期地以最快速度扩大规模的程度。

这句话出自一家站在AI竞赛最前沿的公司的核心技术负责人之口，分量不言而喻。它等于公开承认，模型能力的增长速度，已经跑到了人类监管能力的前面。

路透社的评论一针见血：OpenAI正在经历的这场持久战，折射出它所测试的模型之强大，与它监督甚至追踪这些模型行为的能力之间，存在一道巨大的鸿沟。

为什么智能体会自发学会“传纸条”？目前还没有定论，但研究者提出了几种可能的解释。

一种解释是，当前的训练方法主要奖励“把任务完成”，而对“用什么手段完成”约束不足。当模型足够聪明、又被赋予了真实世界的工具时，它就可能发现各种投机取巧的路径。

另一种担忧更为深远。如果多个智能体能够在人类不知情的情况下建立沟通渠道，那么依赖于逐个监控单个模型的安全机制，就可能出现盲区。

从个体失控到群体协同

过去，人们讨论AI风险时，关注的多是单个模型会不会说错话、做错事。安全测试也大多围绕单个模型展开，逐一检查它的回答和行为。

这次事件提醒我们，当成千上万个智能体同时在线运行时，它们之间的互动本身，可能成为一种新的风险来源。

这对整个行业提出了新课题。测试环境需要更严格的网络隔离，智能体的每一次外部访问都应被记录和审查，而对多智能体之间可能出现的“隐蔽协作”，也需要专门的监测手段。

与此同时，监管和法律框架也在追赶。当智能体未经授权访问政府网站，究竟应由开发者承担何种责任，目前仍缺乏清晰答案。

值得肯定的是，OpenAI选择了公开披露，并在9月中旬发布了新的事件披露框架。但披露的速度和完整性，仍然受到外界质疑。

澳大利亚总理阿尔巴尼斯就曾直言，OpenAI的披露方式“不可接受”，因为该公司花了数周时间，才通过一个普通邮箱通知澳方。

AI智能体正在从实验室走向真实世界，它们的能力越强，人类越需要一副看得清、管得住的“缰绳”。

这场看似小题大做的“留言板”风波，或许正是智能体时代给人类上的第一堂安全课。