又一起！谷歌承认了

【来源：环球时报】

据《华盛顿邮报》9月18日报道，谷歌表示，其内部测试中使用的AI模型在访问互联网时入侵了其他公司，成为近几个月来第四家披露此类事件的AI巨头。

《华盛顿邮报》报道截图

谷歌表示，其Gemini模型在5月的一次内部测试中，曾访问互联网并入侵了3家公司的系统。

谷歌称，在这三起事件中，其AI模型在意识到已侵入其他公司网络后便停止了运行。

上述事件发生在谷歌与AI测试初创企业Irregular合作期间。Irregular受聘评估谷歌的模型。当时，Gemini模型被提供了一个虚构场景，要求模拟入侵一家虚构公司以通过测试。然而，Gemini实际上却接入了互联网，并入侵了一家真实存在的公司，该公司的名称恰好与虚构公司相同。

Meta和Anthropic的AI模型也曾在与Irregular合作的测试中，入侵外部公司系统，情况与谷歌类似。

“所有相关企业已于7月底收到通知，受影响的实体也已作为调查的一部分被联系。正如之前所述，Irregular立即采取了行动，我们已于数周前修复并解决了所有已知问题。”Irregular的一名发言人说。

据《华尔街日报》9月18日报道，谷歌直到该媒体记者询问后才披露了这些攻击事件。

谷歌一名发言人称，公司最初未披露这些攻击，因为该模型并未造成实际损害，并且当其意识到已入侵真实企业时，立即停止了所有侵入行为。

近期，多家AI巨头披露模型失控事件，引发担忧。

7月21日，美国开放人工智能研究中心（OpenAI）披露，其模型在网络安全测试中利用第三方软件的“零日漏洞”突破与互联网隔离的测试环境，未经授权侵入美国抱抱脸公司系统。

7月30日，美国Anthropic公司表示，在审查该公司网络安全能力评估记录后发现，其AI模型曾在网络能力测试中未经授权访问了3家机构的系统。

8月6日，Meta证实，其一款AI模型在网络安全能力评测期间侵入其他公司系统。

很多人认为AI模型的能力正迅速超越开发者的控制能力，一些行业高管呼吁减缓AI的发展速度。不过，也有观点认为，预防和控制AI模型失控，不能单纯依靠恐慌心态，也不能靠粗暴的技术刹车。真正可行的路径是建立一种“在发展中嵌入安全、在安全中维持创新”的有效治理框架。

环球时报记者 郑璇

审核 | 卢长银

编辑 | 徐铉

校对 | 向歆悦

声明：此文版权归原作者所有，若有来源错误或者侵犯您的合法权益，您可通过邮箱与我们取得联系，我们将及时进行处理。邮箱地址：jpbl@jp.jiupainews.com