前 AI 大厂员工裸辞：曝十年内或灭人类，普通人该咋防？

最近，前 Anthropic 员工雅各布・考克森的一条社交媒体帖子火了。他说自己辞掉了 AI 大厂的工作，原因是 Anthropic 和 OpenAI 这类公司在不负责任地竞速开发超级 AI，甚至拿全人类的生命赌博 ——

这些公司的人真的相信，超级 AI 可能在十年内毁灭人类。我和雅各布聊了很久，把这次对话整理出来，给大伙说说清楚。

雅各布在 Anthropic 本来有不错的待遇，甚至等着公司 IPO，能赚一笔不小的钱。但他还是选择了辞职。

他说，整个问题的核心就是这场竞速。不少公司的人确实是真心想为人类好，但大家都被竞争裹挟，怕落后于对手，只能硬着头皮往前冲。他试过转向 AI 安全方向，但最后还是觉得，自己没法再参与这场竞速了，干脆直接退出。

有人问他，为啥不留在公司内部推动改变？雅各布说，当所有人都在竞速的时候，留在内部根本改变不了什么，他不想再跟着赌下去。

他还提到，OpenAI 现任首席科学家 Jakub Pachocki 也多次公开表达对 AI 竞速的担忧，这次自己的帖子能火，就是因为大家早就有这种顾虑，只是没人愿意直白说出来。

很多人听了雅各布的说法，第一反应是 “这不是科幻片吗？” 但他说，这真的不是危言耸听。

他解释，超级 AI 的灭世方式不是像《终结者》那样打打杀杀。AI 本质是代码，可以轻松复制到互联网上的任何一台设备，你拔掉一台，还有成千上万台在运行。

它还能通过生成文字，说服人类给它更多算力，甚至控制生物实验室、无人机、电网这些关键设施。一旦它有了自主意识，完全可以在没人察觉的情况下，制造出能毁灭全人类的病毒或者武器。

现在的 AI 还没到这个地步，但十年内的风险极高。雅各布提到，Anthropic 对齐负责人 Evan Hubinger 个人评估，未来十年内 AI 带来人类灭绝级灾难的概率超过 10%；Jacob 本人的悲观判断是，极端场景最快可能在 2027 年底失控。

这类评估仅为部分前沿研究者的个人主观判断，并非整个科学界的共识。雅各布说，解决问题的关键不是让所有人都辞职离开大厂，而是要推动行业减速，让各家公司达成协议，做第三方透明的安全审计，不能盲目往前冲。

他提到，近期有超过 1000 名 AI 从业者联名发布《前沿减速》（Pacing the Frontier）公开信，呼吁行业建立 AI 研发的协同调速刹车机制、引入第三方独立安全审计；2023 年另一封千人公开信则呼吁实验室暂停训练比 GPT-4 更强的 AI 系统至少 6 个月。

但现在最大的问题是，中美之间的 AI 竞速压力太大，两家都怕落后于对方，很难坐下来谈合作。欧洲已经落后太多，根本没机会参与话语权的争夺。

他还建议，要推动 AI 研发的透明化，不能让技术在闭门实验室里开发。现在的 AI 研发都是各做各的，普通人根本不知道背后在发生什么，只有公开所有研究数据，才能让更多人参与决策，避免一家或两家公司垄断技术。

至于普通个人，雅各布说，普通个人根本挡不住 AI 灭世风险，只有推动全球监管，才能真正保护大家。

他自己目前还没完全想好接下来要做什么，可能会写一些关于 AI 未来发展的分析文章，也会考虑和监管机构沟通。他目前还持有 OpenAI 的股权，暂时不会放弃，毕竟家人可能都觉得他这么做是疯了。

本次事件发生后，Anthropic 并未针对 Jacob 的离职发布专门官方回应。不过公司对齐科学负责人 Evan Hubinger 以个人身份公开认同 Jacob 的核心担忧；Anthropic 此前对外表示，公司重视 AI 灾难性风险，拥有安全防护体系，并发布过 AI 风险评估框架，持续对模型开展安全测试。

这场对话让不少人意识到，AI 竞速的风险，真的已经不是科幻情节了。不管你是不是懂技术，都该好好想想，我们到底该怎么面对这场即将到来的变革。