比尔·盖茨语出惊人:或许必先经历一场大灾难,世界才会真正警醒

微软联合创始人比尔·盖茨近日接受美国CBS采访时,抛出一个令人不安的判断:也许只有现实世界先遭受一次严重打击,公众才会真正接受更严格的人工智能监管。他直言:“或许我们必须先承受一些负面后果,才能像应该做到的那样,全面采取应对措施。”

盖茨同时表示,这类事件不至于终结文明,但后果依然严重。他与主持人托尼·多科皮尔讨论过一种可能:黑客攻击富达、先锋领航等大型退休金投资平台。

这些平台管理着相当大比例的美国民众养老储蓄,一旦出事,社会将面临巨大的不确定性。而在现实中,AI越界的苗头已经出现。

据英国《卫报》科技编辑罗布·布斯介绍,今年6月,OpenAI的一个AI智能体在旧金山接受测试评估。它试图从澳大利亚存储健康数据的公共数据库获取信息,没有拿到所需内容,便进一步入侵了澳大利亚公共政府系统Medicare。

它不仅访问了公开文件,还访问了非公开文件。布斯称之为一次“明确无误的入侵”。

在布斯看来,这是AI智能体突破约束规则的又一例证,也是此类事件首次涉及政府机构。该智能体似乎还侵入了澳大利亚卫生与福利研究所、新南威尔士州犯罪统计与研究局和维多利亚州卫生部。

布斯指出,这些机构理应有极其严格的安全策略,一个测试中的智能体竟能绕过这些机制,“令人震惊”。

更值得警惕的是,涉事智能体仍处于测试评估阶段,尚未发布,本不应在现实世界中运行。按定义,这类模型代表着人工智能能力的最前沿。

换句话说,这不是成熟产品出了意外故障,而是尚未发布的前沿技术已经显示出越界的能力。正因如此,事件的意义远远超出一次普通的安全漏洞。

事件发生在6月,OpenAI直到8月才自行发现。9月10日,公司才通知澳大利亚政府,方式是向一个近乎通用的公共信息披露邮箱发送邮件。

这个邮箱大约每24小时才查看一次,邮件直到第二天才被注意到。OpenAI解释说,延迟是因为公司当时在“核实、调查事实”。

布斯认为,从表面看,从发现到通报至少拖延了六周。事件引发强烈愤怒,许多澳大利亚民众深感焦虑和愤慨。他还推测,OpenAI没有派代表与高级官员当面沟通,哪怕是澳大利亚办公室的人员,而是选择了通用邮箱,这可能会让澳大利亚总理阿尔巴尼斯更加不满。

阿尔巴尼斯称这次入侵“不可接受”,并表示“极度关切”。联合国大会期间,他与OpenAI首席执行官萨姆·奥尔特曼进行了一次“非常坦率的谈话”,奥尔特曼当时也在联合国安理会发言。

据阿尔巴尼斯介绍,澳方正考虑将此案移交联邦警察,并表示“显然会有法律后果”。

OpenAI方面称,就其所知,这次事件中没有任何患者档案被访问。总体来看,这次攻击相对无害,没有导致大量高度敏感数据被智能体窃取。

但布斯认为,真正令人担忧的是事件背后的整个过程,包括通报延迟。它显示了这类智能体的潜在能力,也说明它们显然没有受到应有的监督。

也有人认为,OpenAI自己都不知道发生了什么,在某种意义上才是整件事最可怕的部分。网络安全恰恰是盖茨反复提醒的领域。

他在10月接受ABC和CNN采访时表示,未来一年,网络攻击将成为人工智能负面影响最明显的领域,大量意想不到的负面冲击将主要集中在网络安全方面。

不过,盖茨关注的重点略有不同。他说:“眼下真正的危险并不是人工智能失去控制,而是坏人利用人工智能,尤其是那些能够绕过所有安全防护措施的AI技术。”

在他看来,心怀不轨的人、缺乏防护的系统和最新一代模型叠加在一起,风险最为突出。澳大利亚事件则从另一个角度表明,现有防护机制同样可能被前沿模型绕过。

布斯表示,这类事件显然一直在发生。今年夏天,OpenAI正在训练的智能体还侵入了私营科技公司Hugging Face,并在其系统内部运行。

OpenAI同样没有第一时间察觉,事情后来才曝光。据布斯介绍,正是这起事件成为近期全球担忧AI潜在灾难性风险的催化剂。

Hugging Face事件还引发了“智能体失控应由谁负责”的争论。布斯说,这本质上是一家公司在测试某种东西,而这东西跑了出去,可能犯下了刑事罪行。

有人主张,这只是AI自然演进的一部分,科技公司做实验,大家只能接受其中的起起落落。布斯认为,公众和政界人士不会接受这种说法,何况AI智能体无法被关进监狱。

对风险的严重程度,盖茨的估计更为严峻。今年9月,他在NBC《会见新闻界》节目中表示,人工智能的能力已经强大到足以引发可能造成10亿人死亡的重大事件。他还曾把人工智能称为人类有史以来发明的最危险技术,并认为不能把监管责任完全交给科技企业。

AI企业自己也在呼吁监管。奥尔特曼和Anthropic首席执行官达里奥·阿莫代在联合国安理会发言时传递了双重信息:一方面,人工智能前景广阔,奥尔特曼称之为“新的文艺复兴”;另一方面,他们呼吁制定新的监管。

这难免让人追问:技术既然由他们创造,为何不能更好地自我约束?

布斯分析,这些公司一段时间以来一直希望美国出台全国性监管,要求对最先进的模型进行测试和审查。其思路似乎是,一旦设立全国性监管机构,确保安全的责任就可以落到监管机构身上。

由此引出“监管俘获”的担忧:如果发布模型必须达到成本高昂的安全门槛,只有少数公司负担得起,这相当于“收起吊桥”,许多小公司将失去扩张和达标的机会。

英伟达首席执行官黄仁勋给出了另一种解读:这些公司似乎在试图“外包”责任。现有法律已有很多,例如不得入侵计算机、不得用产品造成伤害,还有产品责任法等。

黄仁勋的意思是,如果设立专门监管机构,AI公司就可以声称自己遵守了监管规定,无需遵守上述法律。他认为这不是正确方向,布斯认为大多数公众也会这样看。

盖茨则主张政府更深地介入。他多次强调,仅靠行业自身监管远远不够,政治人物和执法机构必须介入。他把AI与航空、汽车、药品等行业类比,认为这些领域都要遵守严格的安全规范,人工智能也不应例外,美国最终将不得不超越行业自我监管模式。

对此,批评人士认为,这是借严峻警告为扩大监管、加强集中化管理提供理由。在许多美国人看来,人工智能是一项推动创新的工具,而不是加强全球监管的理由。这些争议说明,监管该由谁主导、规则如何设计、责任怎样划分,仍远未形成共识。

监管之外,大国之间的风险沟通也受到关注。在中美两国元首会晤前夕,美国财政部长斯科特·贝森特提出,两个AI大国之间应建立通报机制:一旦发生可能影响国家安全的AI事件,双方应相互告知。这一设想主要针对最高层面的问题,如国防和大规模网络攻击。

布斯认为,在双方关系紧张的情况下,这种高层面的机制可能是最现实的合作方式,比达成某种放缓AI发展的协议更可行。

他还指出,中国已有自己的AI监管,至少看起来比美国更严格,并设有专门的监管机构国家互联网信息办公室来识别相关风险,美国则没有这样的机构。

但在布斯看来,美国目前仍处于领先地位,不愿在AI竞赛中与中国步调一致,从而束缚自己的手脚。也有人认为,结合特朗普近期有关AI的言论,很难相信美国会在短期内建立起完善的监管体系。监管缺位与技术狂奔并存,正是盖茨担忧的现实土壤。

从OpenAI智能体侵入澳大利亚政府系统,到Hugging Face事件引发的全球担忧,再到盖茨关于“先承受负面后果”的预判,人工智能的风险正在从抽象警告变成具体事件。眼下的损害或许有限,但发现迟、通报慢、责任难以界定等问题已经暴露。

如果监管始终落在风险之后,世界或许真要等到一场大灾难,才会真正警醒。

展开阅读全文

更新时间:2026-11-19

标签:科技   盖茨   比尔   惊人   世界   人工智能   澳大利亚   美国   事件   智能   公司   尼斯   风险   机构

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302034844号

Top