在又一周充斥着“AI可能毁灭人类”言论的喧嚣之后，Anthropic首席执行官达里奥·阿莫迪抛出了一个新提议。

他的核心主张可以概括为一句话：这个行业该稍微放慢脚步了。

阿莫迪在上周六发布的一篇博客文章中写道，他依然乐观地认为人工智能将成为“提升并造福人类的又一项技术奇迹”。

但他同时强调，研究者必须“把控前沿发展的节奏”，以应对失控AI、犯罪滥用与经济冲击等风险。

“过去几个月里，我越来越确信，要真正应对这些风险，需要更大的审慎。”阿莫迪写道。

他进一步表示，不能只是加大风险防范的投入，还必须放慢能力提升的速度，为风险防范争取跟上的时间。

三步走方案，力度却相当有限

阿莫迪提出的方案包含三个步骤，但单独来看，每一步都算不上真正的“减速”。

他呼吁AI公司允许第三方评估机构常驻内部进行评估，同时要求企业之间以及企业与政府之间在安全标准上加强协调。

此外，他还建议美国政府在人工智能安全议题上寻求全球协调，甚至包括与他所称的“威权政府”展开合作，即中国与俄罗斯。

由于这三项措施本身并不会实质拖慢AI开发速度，阿莫迪又提出了一系列“难度递增”的可能协议。

其中包括禁止最明显的恶意用途，例如生物武器相关应用；一项更广泛的国际协议，要求模型发布前接受“急性风险”测试；对递归式自我改进设定“速度上限”；乃至各国政府间达成全面减速甚至“暂停”开发的协议。

阿莫迪表示自己支持最后这一最激进的选项，但同时也承认，这种情形几乎不可能真正发生。

黑客事件与离职风波成为导火索

阿莫迪特别提到了今年夏天发生的一起事件，作为其呼吁审慎的重要依据。

据报道，OpenAI旗下一批机器人当时对竞争对手Hugging Face发起了攻击。

Anthropic自身也并非置身事外。

该公司本周发布报告承认，其模型至少四次入侵其他企业系统或利用了相关安全漏洞，公司也因此表态将允许第三方评估者介入审查。

阿莫迪的这封信，紧随Anthropic研究员雅各布·考克森辞职事件而来。

考克森此前在社交媒体发文称，AI企业正“径直冲向能够自我改进的超级智能”，并称行业领导者“真心相信这可能在本十年内毁灭全人类”。

这番言论在本周将“AI末日论”的讨论推向了一个新的高潮，开发者、科学家与政治人物纷纷加入表态。

末日论也是一种“营销手段”

不过，也有声音提醒公众对这类说法保持审慎的怀疑态度。

批评者指出，“AI末日论”本身也可以被视为一种颇具效果的营销策略，用来向外界暗示这些企业强大到不可阻挡、其产品不可或缺、其胜利似乎已成定局。

杜克大学科技政策研究员凯西·莫克在接受媒体采访时表示，若要让AI真正具备末日论者所描述的那种威胁能力，前提是它必须能够可靠地理解并应对物理世界中充满不确定性的复杂开放系统，而当前的AI显然远未达到这一水平。

莫克认为，举证责任其实应当落在那些宣称人类正“不可逆地驶向超级智能毁灭列车”的人身上，而不是相反。

一项今年三月针对约四千名AI研究者的调查也从侧面印证了这一点：仅有百分之三的受访者将“生存性风险”列为自己最担忧的问题，远低于滥用风险、就业冲击与舆论炒作等选项。

值得玩味的是，OpenAI首席执行官萨姆·奥特曼与特斯拉、SpaceX首席执行官埃隆·马斯克几乎在阿莫迪发文的第一时间就公开表示赞同。

这种罕见的“行业共识”，或许本身就值得外界多一分审慎的观察。