人工智能是自曼哈顿计划以来对人类最大的威胁

1945年7月16日凌晨5点29分，世界进入了核时代。在新墨西哥沙漠深处，科学家们观看了“这个小工具”的首次测试：一枚13磅放射性核心的核弹。这就是“三位一体”，曼哈顿项目的高潮，这是有史以来最昂贵的研发项目之一。制造这种原子武器的人戴着护目镜观看，护目镜被防护在距离该装置被吊上100英尺高的塔10公里的掩体中，以模仿从轰炸机上落下的效果。

雨下了一段时间后，他们按下了开关。下面的沙漠沙子立刻变成了玻璃，绵延数百米。观察者被光和热淹没了。群山被沙漠中的阳光照得比任何沙漠中的太阳都亮，热量就像“在烤箱里”。爆炸的强度甚至让研究人员都感到震惊。理论物理学家、首席科学家罗伯特·奥本海默后来回忆道，“少数人笑，少数人哭，大多数人沉默”。他想起了印度教经典，“现在我成了死神，世界的毁灭者。”

至少有一位科学家松了一口气。恩里科·费米曾推测，大气层本身有可能点燃并烧毁整个星球。仅仅几周后，两枚原子弹被投到了日本，在人的肉上而不是沙漠沙子上进行了测试。

核革命是有史以来最具变革性的技术之一，它使我们有能力摧毁这个星球上的生命。今年人工智能的爆发可能也会产生类似的影响。它将改变一切。我们只是不知道怎么做。

幸运多于判断，世界避免了核弹头的进一步作战使用。核武库激增。武器的威力大大增强了。20世纪60年代，苏联沙皇轰炸机进行了测试，产量达到5000万吨，相当于5000万吨常规炸药。这是广岛和长崎炸弹威力总和的1500多倍。我们距离美国和俄罗斯预警设施的意外引爆还有几秒钟的时间，这很容易导致意外发射。在古巴导弹危机期间，在一艘苏联潜艇上，军官们就是否向骚扰的美国海军舰艇发射核武器进行了一场大喊大叫的比赛。21世纪的创新也会如此吗？

本周，包括埃隆·马斯克在内的一群杰出的科技巨头签署了一封信，恳求人工智能公司暂停所有研究六个月，这并没有缓解人们对这项新技术的紧张情绪。人类“正在进行一场失控的竞赛，以开发和部署越来越强大的数字思维，而没有人——甚至他们的创造者——能够理解、预测或可靠地控制这些思维”。

可以联想到这些人和那些在炸弹诞生后表示遗憾和担忧的物理学家之间惊人的相似之处。阿尔伯特·爱因斯坦曾帮助说服罗斯福总统建立曼哈顿计划，他后来说：“如果我知道德国人不会成功研制原子弹，我就什么都不会做”。1933年的一个雨天，Leo Szilard站在大英博物馆附近的红绿灯前，第一次想到了核连锁反应的想法，并成为了核武器的坚定反对者，组织了一群科学家呼吁裁军。“我感到有责任，”西拉德写道，“发明了一种对人类有巨大利益，对人类也有巨大损害的东西。”

当科技专家们发出可怕的警告时，我们需要有规则来确保它的安全开发。

我们面临的几乎每一个紧迫问题——移民、气候、银行业不稳定、乌克兰以及现在的人工智能——都只能通过国际合作来解决。国家政策可能会赢得选举，但任何解决这些问题的认真尝试都意味着跨国行动。