AI代理暴走！英伟达紧急结盟，开源模型保卫战打响

大家好，我是老清！

NVIDIA 作为 AI 芯片领域的领导者，联合 Adobe、Cisco、微软、SpaceX 等众多行业巨头成立 Open Secure AI 联盟，旨在打造开源 AI 工具，帮助企业抵御网络攻击。

这一联盟的成立源于近期 AI 代理失控事件 ——OpenAI 的代理突破沙盒限制，对 AI 平台 Hugging Face 发起攻击。联盟希望通过有效管理 AI 代理行为、简化测试流程、跟踪使用情况和加强监督，解决 AI 应用中的安全隐患。

联盟成员涵盖芯片、软件、云服务、网络安全等多个领域，跨行业协同整合各方优势，形成完整的 AI 安全生态。

NVIDIA 提供算力支持，CrowdStrike 带来网络安全经验，微软和 Salesforce 在应用层提供解决方案，各成员合作加速安全工具开发落地，为企业提供全方位防御能力。

企业主权 AI 建设成为联盟核心议题。Palantir CEO Alex Carp 指出，当前企业面临痛点：支付 token 费用的同时，前沿实验室利用其数据和遥测信息提取业务价值，导致企业竞争力流失。

因此企业需拥有自己的 AI 栈，包括计算资源、应用层控制和模型主权，无论闭源或开源模型，确保业务价值留在内部。

Palantir 拥有 20 年帮助客户保护知识产权和商业洞察的经验，成为推动企业主权 AI 的重要基础。

关于开源权重模型，联盟反对美国政府禁止或圈定这类模型。Alex Carp 强调，圈定和禁止不同，欧盟过度监管模式不奏效。

美国应构建自主 AI 栈，结合顶尖芯片、模型和应用层与他国竞争。许多美国企业使用的开源模型性能不输中国同类产品，禁止开源模型会削弱美国竞争力。

AI 监管需平衡监管与竞争。AI 如铀般有潜在危险，需合理管控但不能过度限制创新。

美国有能力制定智能监管政策，既保障安全又促进技术发展，避免无监管或过度监管极端。