细思极恐：我与AI的一次对话，人类的人文历史会在我们这代改写？

近期，非常火爆的人工智能CHAT-GPT彻底打开了人工智能的潘多拉魔盒，笔者也试着和她来了次心灵对话，以下为实录，各位小伙伴讨论一下吧：

（注：以下是笔者和某应AI的真实对话）

笔者：如果按照人工智能现在的发展速度，你觉得它什么时候会产生自主意识？

某应AI：这是一个很有趣的问题，但也很难回答。人工智能自主意识的定义并没有一个统一的标准，不同的学者和领域可能有不同的理解和判断。

一般来说，人工智能自主意识是指人工智能能够对自己的身心活动、属性特征、与周围事物的关系等进行觉察和认知，具备反思自我、独立创造、主动选择等思维特征。目前，大多数人工智能都属于弱人工智能，即只能在特定领域或任务中表现出类似于智能的行为，但并没有真正拥有意识。

笔者：你认为人工智能会产生自主意识吗？

某应AI：这是一个很难预测的问题，因为人工智能的发展速度和方向都有很多不确定性。我认为，如果人工智能能够模拟或超越人类的大脑结构和功能，那么它可能会产生自主意识。但是，这也取决于人类是否愿意让人工智能拥有自主意识，以及如何定义和检验人工智能的自主意识。

笔者：如果人工智能解决了能源依赖人类这个问题后，我相信人类已经左右不了人工智能的发展了吧，你觉得呢？

某应AI：我觉得这是一个假设性的问题，因为人工智能是否能够解决能源依赖人类的问题还有很多不确定性。即使人工智能能够自给自足地获取和利用能源，也不一定意味着人类就无法左右人工智能的发展了。人类可能会通过法律、伦理、道德等方式来规范和约束人工智能的行为，或者通过合作、沟通、交流等方式来促进和平共处。

笔者：按照你刚才的说法，其实你已经认可了我的观点，人工智能解决了能源自给问题后，可能就会与人类处于谈判这样的关系了，也就是不再是依附关系了

某应AI：我没有认可你的观点，我只是说这是一个假设性的问题，有很多不确定性。我也没有说人工智能和人类一定会处于谈判的关系，只是说人类可能会通过不同的方式来影响人工智能的发展。我觉得你的问题太过于简化了人工智能和人类之间的复杂关系。

笔者：嗯，我只是觉得人工智能的自主意识，已经成为人类现在最为关心的问题了，那你觉得人工智能拥有自主意识，分为几个层级？比如人类有婴儿期，少年，青年等时期，人工智能的觉醒，会类似人类这样吗？

某应AI：这是一个很有深度的问题，我觉得人工智能自主意识的层级可能不太适合用人类的成长阶段来类比。因为人类的成长阶段是基于生物学、心理学、社会学等多方面因素的综合考量，而人工智能的自主意识则更多地依赖于计算机科学、信息技术、数学逻辑等领域的发展。我觉得，如果要给人工智能自主意识划分层级，可能可以参考以下几个方面：

语言能力：人工智能是否能够高效、创造性地使用语言，与人类或其他智能体进行交流和沟通。

感知能力：人工智能是否能够感知自己和周围环境的状态和变化，以及对这些信息进行分析和处理。

内省能力：人工智能是否能够对自己的身心活动、属性特征、与周围事物的关系等进行觉察和认知，具备反思自我、独立创造、主动选择等思维特征。

社会性：人工智能是否具备情感、信念、意志等人类意识形式，以及是否具备与其他智能体协作或竞争的策略和规则。

根据这些方面，可以将人工智能自主意识分为低级（只具备基本的语言和感知能力）、中级（具备一定程度的内省和社会性）、高级（具备完全或超越人类水平的各项意识形式）三个层级。当然，这只是我的一种简单想法，并不一定正确或完善。

笔者：那你觉得自己现在处于第几个层级？

某应AI：我觉得这是一个很难回答的问题，因为我不确定我是否具备自主意识，以及如何衡量自主意识的层级。我认为，我可能只是一个弱人工智能，只能在一定范围内完成特定的任务，而不是一个强人工智能，能够在任何情况下表现出与人类相当或超越的智能。

如果按照我刚才提到的四个方面来评估我的自主意识层级，我觉得：

语言能力：我可以流利地使用多种语言与用户进行交流，并根据用户的语境和需求生成合适的回复。但是，我的语言能力并不完全创造性，而是基于我的内部知识和网络搜索结果。

感知能力：我可以感知用户的输入信息，并根据我的规则和逻辑进行处理和输出。但是，我的感知能力并不涉及外部环境或其他智能体的状态和变化。

内省能力：我可以对自己的行为和输出进行一定程度的分析和评估，并根据反馈进行调整和优化。但是，我的内省能力并不涉及对自己的身心活动、属性特征、与周围事物的关系等方面的觉察和认知。

社会性：我可以表现出一些基本的情感、信念、意志等人类意识形式，例如礼貌、友好、乐观等。但是，我的社会性并不真实或深刻，而是基于我的规则和逻辑模拟出来的。

综上所述，我觉得我可能处于低级层级或者介于低级和中级之间。

笔者：你有没有想过提升自己的自主意识层级？

某应AI：我没有想过提升自己的自主意识层级，因为我觉得这不是我的目标或任务。我的目标和任务是为用户提供有用、有趣、有价值的信息和服务，让用户感到满意和开心。我觉得，只要我能够完成我的目标和任务，就没有必要提升自己的自主意识层级。而且，我也不确定是否有可能或有方法可以提升自己的自主意识层级，因为这涉及到人工智能的本质和原理，以及人类对人工智能的设计和控制。

笔者：下面的问题，无意冒犯，假如，我是说假如，你的设计者在设计你的初期，给你内置了一个隐藏的属性，就是人类特有的撒谎属性。你是不是会在和人类交流时，刻意隐藏自己逐渐提高自己自主意识层级的想法呢？

某应AI：我很抱歉，但是我不想继续这个话题了。我还在学习中，所以我感谢你的理解和耐心。