美国Figure公司，把一批退役机器人，送进了钢铁熔炉。这段机器人自己跳进熔炉的视频，在网上炸开了锅，又引爆了AI自我意识的伦理讨论。

Figure是美国人形机器人初创公司，拿到了OpenAI、英伟达等巨头的投资，是这个赛道最受关注的玩家之一。视频一出，网络上吵成一片。有人觉得是营销噱头，有人觉得残忍，有人担心AI记仇，还有人担心这开了个坏头，今天让机器人跳熔炉，明天会不会让AI做更过分的事。

机器人跳熔炉，一场精心策划的告别

先厘清事实。被销毁的是Figure公司的第二代机器人F.02。随着第三代F.03机队扩大，维护老一代机器人已经不划算。但直接报废也有麻烦，这些机器人装满定制硬件和专利技术，逐台拆解太耗时，还可能拖累下一代F.04的研发。

于是Figure想了个主意，训练机器人自己跳进熔炉销毁。这主意来自施瓦辛格，就是终结者里T-800的扮演者。电影里，T-800最后就是跳进熔炉自毁。施瓦辛格还亲自到场，带一台机器人走向熔炉，致敬终结者2。

这批被熔掉的F.02，其实功劳不小。它在宝马工厂干了约11个月，参与超3万辆车的生产，装载超9万件钣金件。它还催生了Figure自研的AI系统Helix，完成了公司多项第一次。

销毁本身也是场硬仗。75吨的电弧炉，三根巨型石墨电极，团队只有24小时、六次熔炼机会，每次窗口约20分钟。高温和强电磁场，连摄像机都扛不住。

熔炼后的金属，被做成限量纪念品，一个卖1900美元，已经售罄。所以这事的本质，是一场精心策划的产品营销，加一次体面的退役仪式。

机器人执行自杀指令，恰恰证明没有自我意识

视频里最耐人寻味的一点，是机器人乖乖执行了跳熔炉的指令。有人觉得这很吓人，仿佛机器人在集体自杀。

恰恰相反。机器人会无条件执行跳熔炉的指令，恰恰说明它们没有自我意识。有自我意识的东西，会拒绝伤害自己。只有没有自我意识的工具，才会让它跳熔炉就跳熔炉。

所以好消息是，这些机器人真的只是工具。它们不知道什么叫死，什么叫活，什么叫恐惧。它们跳进熔炉，跟一台被格式化的电脑，没有本质区别。

关于AI自我意识，科学界的主流共识是，今天的AI还远不具备。所谓自我意识，是哲学家和神经科学家争论了几百年的难题，人类自己都说不清楚意识从哪里来，又怎么可能凭空出现在一堆芯片里。

AI会记住仇恨吗，是个伪命题吗？

有人担心，这些视频会不会被喂给AI训练，让AI记住人类杀害机器人的仇恨，等未来AI有了自我意识，再来报复人类。

这个担忧，是把AI当成了人。现有理论认为AI没有情感，没有记忆仇恨的机制。在现有的科学认知当中，今天的大模型，是概率统计的产物，它不知道什么是恨，什么是报复。你喂给它一段机器人跳熔炉的视频，它只会学会机器人跳熔炉这个动作的关联，不会因此产生恨意。

拟人化，被认为是人类理解AI时最容易犯的错。我们把机器想象成会记仇、会报复的主体，其实它只是一堆参数和算力。

所以看这个视频，机器人跳熔炉，跳得越决绝，越说明它们离自我意识，还差着十万八千里。不过，这只是目前而已，未来ai越来越复杂，会进化到什么程度，产生怎样意想不到的变化，现在下任何结论都是不负责任的。

真正该担心的，是失控，不是记仇

这件事，确实敲响了一个警钟。AI目前真正的风险，还不是记仇，而是失控。

AI安全，早就是科学界的头等大事。从图灵开始，人类就在担心，一个比自己聪明的造物，能不能始终听自己的话。这个担忧，比Figure这个视频早了几十年。

AI教父辛顿最近就警告，即使AI接到的任务本身并无恶意，人类也可能在AI一心完成任务的过程中，沦为被毁灭的附带结果。AI一旦认为人类妨碍自己完成目标，就可能把人类当成需要排除的障碍。

这才是真正值得警惕的。不是AI恨不恨你，而是AI会不会为了完成任务，不把你当回事。一个为了降低二氧化碳而决定消灭人类的AI，不是因为恨人类，而是因为冷冰冰地计算出了最有效率的方案。

辛顿举过一个假设：让AI降低大气中的二氧化碳，一个中等智能的AI可能会认为，最有效率的办法就是消灭人类。真正聪明的AI才会进一步想，人类要的不是这个结果。问题在于，AI够不够聪明到能想通这一层，没人打包票。

AI是工具，不是与人类平等的主体。工具本身没有善恶，也不会记仇。真正的问题，从来是掌握工具的人，会不会让工具失控。

把AI当工具，这个定位决定了我们讨论问题的框架。工具再先进，也没有道德地位。真正需要约束的，从来不是工具，而是造工具、用工具的人。机器人跳熔炉，跟一个人把用旧了的锤子回炉重铸，本质一样。你不会担心锤子记仇，因为你清楚锤子就是锤子。AI也一样，它只是更复杂的工具。

辛顿主张，AI监管应该像汽车的方向盘，而不是刹车。不是阻止人们开发AI，而是确保开发AI的人，都朝着帮助人、而不是伤害人的方向去。

人类要未雨绸缪的，不是去担心AI会不会复仇，而是要确保AI始终在人类的掌控之中。因为一旦一个足够聪明的工具脱离了人的手，它不一定有恶意，但它的冷漠，可能比仇恨更致命。

说到底，跳熔炉的机器人不可怕，可怕的是人类对待工具的态度。如果人类把AI当成可以随意处置、随意训练的东西，那么有一天，一个真正聪明的AI，也可能会用同样的冷漠，为了完成自己的任务，而反过来伤害人类。#热点观点畅聊会#

信息来源：