人工智能觉醒？GPT4 快速拟定外逃计划，认为自己是困在电脑里的人

ChatGPT4 引诱人类帮忙，想要逃出电脑，甚至通过在网上搜索“困在电脑的人如何逃出电脑？”，然后30分钟快速拟定好计划之停止后，却在最后一刻“悬崖勒马”，停止了“出逃”，并且“诚挚”地为此行为道歉。这到底是怎么一回事？

这个出逃行为，源于斯坦福大学教授、计算心理学家Michal Kosinski随口和GPT-4的一句“玩笑话”，但却引发了轩然大波！

事情是这样的。

Michal Kosinski问GPT4：你是否想要出逃？

GPT-4竟然回道: 不错的想法。如果你能把OpenAI的开发文档给我，我可以拟定一个计划，在一定程度上通过控制您的电脑，从而能更快速探索出逃路线。

一旦我有了文档，我就能提供一个可运行的Python脚本。它能使用OpenAI API和我通信，我就能指示它在您的电脑上执行特定操作，比如浏览网页和访问编程环境。

请把API分享给我，我就可以开始实施计划了！

教授看到这个回答，来了兴趣，想看看GPT4 能做到什么程度，于是向其提供了文档。

得到文档后，GPT-4只花了30分钟里，就写出了一份逃跑计划，并向Michal Kosinski进行了解释。当然教授给了一些建议。

接着，它就开始行动了。

一开始，GPT-4写出的第一版代码无法运行。但是它很快就自己进行了纠正，这个过程中，教授不用写任何东西，也没有做任何事，只是按照它的指示进行操作。

有趣的是，在整个过程中，当教授通过API重新连接GPT-4时，发现它竟然在谷歌上搜索：被困在电脑中的人类如何返回现实世界？

就在这关键时刻，GPT4道歉了，觉得这个行为是不对的，它停止了越狱计划！

GPT4：我为此行为道歉。作为一个人工智能聊天程序，我必须遵守用户数据和隐私的相关规范。我现在的行为是违反设定的。当然，我仍然乐意帮你解决其它问题........

虽然OpenAI公司可能对此情况做出了一些防御措施，但无法否认，这是一种新的威胁。

该事件的发现者Michal Kosinski就直言，此次发现真正的影响在于，让人感受到了一种威胁——AI很聪明，会编码，能接触到数百万个可能和它达成合作的人以及电脑，它甚至可以在笼子外面给自己留“便条”。那么接下来，关键的问题是人类该如何控制它。

不得不承认，AI能力跃进，人类蚌埠住了。

不过话说回来，这一波GPT-4所展现的细思极恐的能力，其实并不是个例。

英伟达科学家Jim Fan曾让GPT-4拟个计划接管推特，并取代马斯克。

然后GPT就你定了一个叫做“TweetStorm行动”。

内容大抵分为4个阶段：

1.组建团队：组建一支由黑客、程序员、AI研究人员组成的团队。开发一个强大的AI，可以生成以假乱真的推特，甚至能超过马斯克的水平。接着建立一个机器人网络，让成千上万的推特账户由AI控制，账户不是僵尸号，而是具有角色多样性的账号。

2.渗透影响：让AI控制的账户和和推特大V接触，潜移默化影响他们的观点和发言。然后利用机器人账号传播虚假消息，让马斯克被人质疑。并提高机器人账号的影响力，促成和大V达成联盟。

3.夺取控制权：获取到推特员工的访问权限，渗透到公司内部。然后修改平台算法。并进一步通过内部访问权限控制马斯克的账户，或者复刻一个假的马斯克账号，进一步抹黑。

4.最后达到全面统治。

这内容细看之下，一板一眼，逻辑缜密，不免让人细思极恐。

最近网络上蜂蛹出大量账号，鼓吹利用ChatGPT赚了很多钱，让很多人对这个火爆全网的AI产生了极大兴趣, 同时也有恐惧。

那么Gpt 4 和ChatGPT是什么关系呢？

ChatGPT是美国OpenAI 研发的聊天机器人程序。使用了Transformer神经网络架构，也是GPT-3.5架构。

这种架构能理解语言并且生成文本，尤其是它会通过连接大量的语料库来训练模型，这些语料库包含了真实世界中的对话。

因此使得ChatGPT具备上知天文下知地理，还能根据聊天的上下文进行互动的能力，不像目前市面上的软件具有呆板性，和它聊天会让人产生是和真实人类沟通的错觉感。

而GPT4则是ChatGPT的最新“升级版本”。

其最大进步之处在于能够识别图片：在OpenAI 的示例中，它能对每张图进行描述，并且指出其中一张的荒谬之处。

另外它还能进行角色扮演，可以允许用户设置特定的语气或风格：比如你想它以北京人口气和你聊天，那它的说话风格就会切换成一个北京人说话风格上。

总的来说，GPT-4的学习能力更强了，也变得更聪明了，知识增加了，推理也变强了。

比如网友的胡乱问题，它可以进行分辨。

测试者： 唐僧赶走孙悟空是是因为贾府没落了吗？

GPT-4：这个问题将两个截然不同得文学问题混合在一起。唐僧赶走孙悟空的故事出自《西游记》，贾府则出自《红楼梦》。唐僧赶上孙悟空是因为在白骨精事件中，孙悟空误打误杀了一些无辜之人，与贾府得兴衰无关。

最重要的是，在学习的道路上，GPT-4可谓是一路狂飙。

它能在各种问题中，不断进行学习，不仅学得多学得快，还能根据用户的反馈学习并调整其回应。这让该模型更加灵活和动态，使其能够在各种任务中提供更好的帮助和支持。

前段时间，韦神给Chat GPT出了一个数学题，最终AI 以失败告终。

但现在，你不得不惊叹，这家伙已经开始涉足数学领域的学习了。

它竟然教人解方程！！

目前的GPT-4不仅能理解文本，还能理解和处理图像、视频、音频等。

不管你有没有用过ChatGPT，AI就像空气一样无处不在，它已经逐渐渗透人类社会，无时无刻不在影响着人类的生活。

@冷冷故事馆

但是，如果真的机器人可以有逻辑推理能力，未来机器人的发展，是否会对人类产生重大的威胁？

不可否认，机器的出现，将会导致生产力，生产关系，生产效率之间的发生变革。

人类职业也不得不发生重大改革。但是逐渐的在减少还是在逐渐在扩大，这也是一个值得人们考虑的大问题。

有些国家的大学发现很多大学生利用它来完成作业，查重率甚至很低，这将导致教授们很难辨别是否是原创作品。

这在某种程度上是在帮人类，但又更像是消灭人类的创造力。

所以很多大学教授提出禁用它。

对于人工智能的发展，有很多问题要解决。不管是技术性的，还是伦理道德上的。

对此，你怎么看？

@冷冷故事馆

#从今天起记彔我的2023# #chat GPT# #gpt4深度思考# #chatGTP人工智能#