刚刚！AI教父杰弗里·辛顿上海发声：我们要想法让AI不要消灭人类

2025年7月26日，图灵奖、诺贝尔物理学奖双料得主，被称为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）在2025世界人工智能大会做开场演讲。

他在演讲中提到一个问题：如果AI比人更智能会怎么样？

这是他对这个问题的阐述，“打开车门”整理。

几乎所有的专家都认为，我们会生产比我们人类更智能的AI。我们已经习惯成为最智能的生物了，所以很多人觉得难以想象，如果AI比人更智能会怎么样。我们可以这么来看，如果你想知道人类不是最智能的话会怎么样，我们可以问一只鸡。

我们在创造AI智能体，它们能够帮我们完成任务。这些智能体已经有能力可以进行复制，它们在被允许创建自己的子目标时，能更有效地完成任务。

那么它们会想做两件事情：生存，获得更多权力。

它们想要生存，然后完成我们给它们的目标。它们也希望能够获得更多的控制，同时也是为了完成我们给它们的目标。

我觉得我们不能只是把它们一关了事。它们可以很方便地来操作，用它们的人就会像三岁孩子，然后它们像成年人一样操纵三岁的人是很容易的。

有人觉得它们变得聪明，我们就把它们关掉，这是不现实的。它们会操纵我们，会劝说操控机器的人不要把它们关掉。

我觉得我们现在的境况，就像有个人把老虎当宠物。小虎崽是很可爱的宠物，但是如果一直养这个宠物，那么你要确保它长大的时候，不会把你给杀了。

一般来说，养老虎当宠物不是一个好的想法。你只有两个选择：一是你把它训练好，它不来杀你；二是你把它干掉。

用AI的话，我们就没有办法把它给消灭掉。

AI在很多方面都做得很好，比如医疗教育、气候变化、新材料等未来这些任务都做得非常好，几乎能够帮助所有的行业变得更有效率。

我们是没有办法消除AI的，即使一个国家消除了AI，别的国家也不会这么做，所以，这不是一个选项。

这就意味着如果我们想要人类生存的话，必须找到一个办法来训练AI，让它们不要消灭人类。