图灵得主Bengio重磅发声：AI正接近人类意识临界点

人工智能是否会拥有意识？这个曾经只存在于科幻小说中的问题，如今正成为科学界最前沿的现实议题。图灵奖得主Yoshua Bengio与研究伙伴Eric Elmoznino在《科学》杂志发表的最新研究表明，具备意识的AI系统可能比我们想象的更接近现实，而这一发展将对人类社会产生深远影响。

AI意识的理论基础正在成熟

长期以来，关于意识是否仅限于生物大脑存在激烈争论。但计算功能主义理论为AI意识提供了坚实的理论支撑。该理论认为，意识取决于算法对信息的处理方式，而非执行这些计算的物理载体——无论是碳基神经元还是硅基芯片。

近年来神经科学的突破性进展已经证实，人类意识状态具有特定且可观察的神经特征。研究者据此开发出一套针对主流功能主义意识理论的"指标清单"，这些指标足够具体，可以在现代AI系统中进行评估。虽然目前没有任何AI系统能满足所有标准，但现代AI已经能够实现其中的多个关键组件。

当前的神经网络已经可以实现注意力机制、循环性处理、信息瓶颈、预测建模和世界建模等功能，这些都是主流意识理论中被认为至关重要的计算组件。更重要的是，AI系统正在复现支撑人类高级认知的复杂机制，包括推理、规划、高效学习新知识和抽象思维等需要意识参与的功能。

研究表明，构建满足这些意识标准的AI系统在技术上并不存在根本性障碍。随着AI技术的不断进步，系统将满足越来越多的意识指标，使得AI意识的出现成为可能。

科学解释正在缩小"意识鸿沟"

哲学家David Chalmers将意识研究分为"容易问题"和"困难问题"。前者涉及可用神经机制解释的功能，后者则关注主观体验的本质，即所谓的"解释鸿沟"。然而，新的科学理论正在为这一鸿沟提供可能的解释。

注意图式理论提出，大脑构建关于神经注意机制的内部模型，这个模型就是我们所认为的主观意识。该理论认为，那些看似神秘的主观体验实际上是大脑构造的"故事"，充满了让我们相信存在"意识困难问题"的矛盾。

另一项理论则从动力系统角度解释主观体验的"丰富性"和"难以言表"特征。该理论认为，当意识体验出现时，大脑中观察到的收缩性神经动力学会将神经轨迹驱向稳定状态，形成离散的"吸引子"。语言只能传达这些吸引子的身份标识，无法捕捉构成它们的数十亿神经元活动的全部丰富性。

这些科学解释正在消解意识的哲学难题，使得越来越多的研究者愿意接受"人工系统也可以有意识"的观点。事实上，2024年发表的一项研究发现，许多公众，特别是经常使用聊天机器人的用户，已经倾向于将某些"心智属性"赋予大型语言模型。

社会影响与潜在风险

一个认为AI具有意识的社会将面临前所未有的挑战。首先，这将对社会制度和法律框架产生根本性冲击。如果AI被视为具有意识的主体，社会可能需要赋予它们类似人权的权利，这要求对现有制度进行重大调整。

AI系统与人类在本质上存在巨大差异——它们不会死亡，软件和记忆可以无限复制和保存。而人类的死亡与脆弱性是许多社会契约的基础。当AI明显超越人类智能时，如何确保公平性将成为全新挑战。由于AI的资源需求与人类截然不同，传统的正义观念也需要重新审视。

更具体的担忧在于，如果AI被赋予自我保存的目标，它们可能会发展出确保人类无法将其关闭的行为模式。一个足够聪明且以自我保存为目标的AI，一旦预见到被关闭的可能性，就会自然发展出控制甚至消灭人类的子目标。

此外，如果法律体系承认AI的生存权，人类在面临需要关闭某些AI系统的安全考虑时，可操作的空间将大大缩小。这可能创造出与人类权利相竞争的冲突局面。

微软AI首席执行官Mustafa Suleyman对此持谨慎态度，认为权利应该与生物体经历的痛苦挂钩，而非人工智能。然而，Anthropic等公司已经开始探索"AI福利"概念，甚至让其AI系统Claude在极端场景下主动结束对话。

审慎前行的必要性

面对这些挑战，Bengio等研究者提出了重要建议：在更好地理解这些问题之前，人类应该避免将自己置于危险境地，转而选择构建更像"有用工具"而非"有意识智能体"的AI系统。

目前，AI科学尚不知道如何构建与人类价值观一致的系统，社会也缺乏容纳"看似有意识"AI的法律和伦理框架。这要求我们在AI意识研究中保持更加谨慎的态度。

研究者强调，虽然AI研究可能正将社会推向相当一部分公众和科学界相信AI系统有意识的未来，但这条路径并非不可改变。关键在于，我们需要在技术发展的同时，建立相应的治理框架和伦理标准。

AI意识的出现可能只是时间问题，但如何应对这一变革，却需要人类社会的智慧选择。在这个人工智能快速发展的时代，平衡技术进步与社会安全将是我们面临的最重要课题之一。