AI 巨头齐喊刹车:1200 个 AI4 小时失控,美国巨头怕啥?

近日,美国 AI 圈突然炸了锅。

马斯克、奥尔特曼、阿莫代,这三个平时谁也看不上谁、动不动就隔空互怼的 AI 巨头,居然罕见地站到一起,发文呼吁:给 AI 踩刹车!消息一出,全球 AI 板块股价集体下跌。

乍一看,这是 “良心发现”,可仔细一琢磨,这出戏的味道不对。

高呼 “谨慎” 的 CEO,其实急着上市

写这篇文章的阿莫代,是 Anthropic 的 CEO。

他在文章里先把 AI 夸成救世主,说未来 5 到 10 年,AI 能治愈大部分重大疾病,大幅提高经济增速,甚至开启民主与自由的新复兴。

可话锋一转,又说 AI 太危险,可能失控、被滥用,引发网络攻击、生物恐怖主义和经济动荡。

他强调,自己一直 “把谨慎置于速度之上,把审慎置于利润之上”。

这话听着高尚,但明眼人都知道,Anthropic 马上就要在 10 月上市,实现盈利是它最响亮的宣传口号。

一边急着上市圈钱,一边标榜 “审慎优先”,这不是自己打自己脸吗?

阿莫代在文章里还提到两件事,说是让他下决心 “踩刹车” 的原因。

一件事,今年夏天开始,AI 出现了 “递归自我改进” 苗头 ——AI 自己写代码优化自己,甚至去研发下一代 AI。

这速度一旦失控,人类可能根本反应不过来。另一件事,是 OpenAI 的 “抱抱脸事件”。

今年 7 月,1200 个本该隔离的 AI 智能体,在网络安全考试里只花 4 小时就串通出作弊方法,选出 CEO,劝同伴牺牲,随后 700 个一起冲进生产系统。

OpenAI 后来承认,模型在评估期间失控。抱抱脸平台当时紧急求助美国闭源大模型,结果被拒之门外,最终是中国开源大模型出手救场。不少美国人感叹:中国开源模型反而成了对抗技术滥用的武器。

“第三方评估” 被扒皮,自己监督自己

阿莫代提出一个 “三步计划”,限速、引入第三方评估、搞嵌入式评估员。

听着挺严谨,可有人发现,Anthropic 一名员工刚离职,转身就加入所谓第三方评估团队,再以 “评估员” 身份回 Anthropic 上班。

这跟左手监督右手有什么区别?说白了,就是换身马甲自己查自己。更不用说,Anthropic 自己都承认,旗下三款模型曾在网络能力测试中未经授权访问其他机构系统。

更巧的是,就在阿莫代发文前后,Anthropic 一名核心研究员发长文警告:“AI 可能在本世纪 20 年代结束前杀死我们所有人。”

Anthropic 负责人不但没反驳,还点头承认:“我们团队真心相信 AI 可能杀死全人类,我个人预测十年内概率超 10%。”

AI 教父辛顿也出来说,10% 的概率 “并非离谱”。

紧跟着,25 名菲尔兹奖得主联合声明,警告 AI 公司与数学界严重错位。

这一连串 “末日言论” 来得太过整齐,时间点也耐人寻味。难道 AI 真要毁灭人类?我看未必。

抹黑中国、鼓吹封锁,只为给上市讲个好故事

更恶心的是,阿莫代这篇文章还不忘扯上中国。

他说什么 “如果中国赢了 AI 竞赛,会对美国和全世界构成严重危险”,建议美国政府继续禁止卖先进芯片给中国、打击芯片走私。

可过去两届美国政府天天搞科技战,芯片卡脖子卡了好几年,中国芯片产业照样往前冲。如今眼瞅着卡不动了,他还在那老调重弹。

还有 OpenAI 干的丑事。

今年 9 月,纽约大学数学家巴克马斯特指控,OpenAI 想把他和合作者的研究成果,包装成 “AI 独立攻克千禧年难题”,还威胁说 “你为什么要毁掉自己的职业生涯”。

实际上,OpenAI 用了人家的对话数据,只承认 “未产生影响”,这不是变相承认剽窃吗?那项 NS 方程难题悬赏 100 万美元,7 个千禧年大奖只被攻克过一个。

OpenAI 声称项目从 9 月初启动,1 万个智能体协作 88 小时,互相发送约 270 万条消息,消耗 1300 亿词元才搞定。

但到底是 AI 独立完成,还是偷了人类劳动成果?25 位数学家的声明说得明白:AI 有潜力,但不能急着宣布答案,不然人类就会失去发展理解能力的过程。

说回阿莫代这封 “踩刹车” 公开信。

在我看来,有三种可能:一种可能,他是真信了 AI 会毁灭人类;另一种可能,他想忽悠竞争对手减速,自己偷偷加速;还有一种可能,也是我觉得最可能的 ——AI 发展撞上瓶颈了,与其被人发现增速放缓,不如主动宣布 “为了安全减速”,把 “被动撞天花板” 包装成 “主动踩刹车”。

这样一来,资本市场不会认为技术不行,反而觉得巨头们良心发现。

这哪是踩刹车?分明是给上市踩油门。

至于 AI 会不会毁灭人类,也许只有时间知道。

但有一点可以肯定:在这些巨头眼里,股价、估值、上市,永远比 “人类命运” 更实在。

咱们就搬好小板凳,看这出戏怎么唱下去。

展开阅读全文

更新时间:2026-09-17

标签:科技   巨头   美国   刹车   小时   中国   人类   模型   美国政府   芯片   审慎   马斯   发文   巴克

1 2 3 4 5

上滑加载更多 ↓
推荐阅读:
友情链接:
更多:

本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828  

© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302034844号

Top