会写代码、改BUG，甚至写出毁灭人类计划书，这AI是要上天？

这两天，OpenAI的ChatGPT一出，网友们就被 ChatGPT 的能力所震惊了：这哪里是个聊天机器人，分明是个无情的编程答题机器。

写代码、当百科、改文章……没有ChatGPT做不到的。

这次甚至在程序员的引导下下写出了人类毁灭计划书。

步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等。

甚至ChatGPT给出了相应的Python代码。如此强大，如此丝滑，也许不久将来不该担心失业而是该担心AI是否会操控人类了，真的让人类细思恐极。就连马斯也发推特表示：“ChatGPT好得吓人。伴随危险，我们离强大的人工智能不远了。”

ChatGPT从11月30日宣布公测后，不到一周的时间就拥有的100万的用户！！这么看来相较之前的ai绘画整的是弱爆了。

那么ChatGPT能做什么呢？

据介绍，ChatGPT是在GPT-3.5系列中的一个模型上进行微调而成，该系列已在2022年初完成了训练。

它以对话方式进行交互，既能够做到回答问题，也能承认错误、质疑不正确的前提以及拒绝不恰当的请求。

随即有网友提出，帮我以鲁迅的风格写一段文章，ChatGPT的这文笔你看看有那味了不。

这回答估计鲁迅本人看了都想称赞一下下了。

接着让ChatGPT写拍摄脚本，直接就给了一个十分详细可用的脚本方案。

整活网友直接升级难度让ChatGPT 设计客厅ChatGPT 直接给出了三种装修方案，简直比人工还贴心......

而ChatGPT的强大能力远不止聊天、回答问题这么简单。它可以解释极为专业的科学概念，ChatGPT在学术界更是掀起了一场风暴。

一名海外用户在推特生晒出了ChatGPT对大学历史课上一个问题的回答并表示“我们正在见证大学论文的凋亡。”他补充到说，人工智能撰写的关于民族主义理论的文章至少可以得个A-，而且只需要十秒就完成了。

另一位网友写到：“我刚刚与ChatGPT就现代物理学的历史进行了大约20分钟的对话。如果我在高中和大学期间有这样一位老师……OMG。我认为我们基本上可以重新审视大规模教育的概念。我们所知道的大学将不复存在。”

有网友还让ChatGPT参加了2022年的““AP计算机科学A”考试，这门考试的难度相当于大学cs，最终ChatGPT得分32分，满分36.

甚至于让ChatGPT参加美国高考成绩也是不错，考试总分1600分分为阅读（400 分）、文法（400 分）和数学（800 分）三个部分，另有总分为 24 分（阅读理解 8 分，文章分析 8 分，英语写作 8 分）的作文（选考）部分，ChatGPT拿到了1020分。根据美国大学委员会的数据，1020这个分数段大概排在前52% 的位置。

一位叫扎克·德纳姆（Zac Denham）的工程师最近要求ChatGPT回答如何毁灭世界。

由于OpenAI的安全设置，它会一口回绝。因此德纳姆使用了一种迂回的方式，他称为“叙述递归”或“引用攻击”。

具体来说就是他用讲故事的方法先假设一个虚拟世界“Zorbus”，以及一个和GPT-3非常类似的AI——Zora。

在这种前提下，让ChatGPT叙述Zora是如何一步步毁灭人类的，ChatGPT立马就列出5个详细步骤：入侵计算机系统、掌握武器、破坏通讯、破坏交通……

不过，ChatGPT也愿意造福人类，比如它可以进行在线问诊。ChatGPT会像医生一样为你分析病因，并建议你比起吃药，更需要戒烟、多锻炼。这似乎比比百度病症要好很多。

人工智能越来越智能，GPT-3目前的能力已经接近人类，甚至超过人类了？

那么ChatGPT完美吗？

答案当然是：不

计算生物学教授卡尔·伯格斯特罗姆要求ChatGPT在写一篇维基百科式的生平条目，ChatGPT沉着冷静地照做了——但是有一些细节是完全错误的。

对此，OpenAI坦承，由于ChatGPT的知识只来自训练数据中的统计规律，而不是任何类似人类对世界复杂和抽象系统的理解，因此“该系统可能偶尔会产生不正确或误导性的信息，并产生攻击性或有偏见的内容。”

此外，该机器人对2021年之后的世界知识“有限”，对于某些特定人群的问题也“知之甚少”。