GPT-4老板：AI可能会杀死人类？

“AI确实可能杀死人类。”

这话并非危言耸听，而是OpenAI CEO奥特曼的最新观点。奥特曼在与MIT研究科学家Lex Fridman长达2小时的对话中透露。

“从ChatGPT开始，AI出现了推理能力。但没人能解读这种能力出现的原因。”

证明AI推理能力，唯一的途径是向ChatGPT提问，从它的回答中摸索AI的回答思路。

那我们简单来测一测ChatGPT的推理能力：

问：AI具备杀死人类的能力吗？

ChatGPT: AI是一种工具，它们只能执行它们被编程或训练来执行的任务。它们没有自己的意识、意愿或情感。因此，AI本身并没有能力杀死人类。然而，如果AI被设计成执行恶意任务或者存在漏洞，可能会导致不良后果，包括可能导致人员伤亡的结果。例如，在一些应用中，比如武器系统和自动驾驶汽车，如果AI存在故障或者不当的配置，可能会导致严重后果。因此，确保AI系统被设计成安全可靠的非常重要。

问：3年级2班有 56 个学生拍集体合影，套餐价格是 40 元，包含免费五张照片，另外加印一张照片收费 2 元，全班每个人都要一张集体合照，共需要支付多少钱？

ChatGPT:全班每个人都要一张集体合照，那么需要印制的照片数量为 56 张减去免费的 5 张，即 51 张。

套餐价格包含 5 张照片，因此需要额外印制的照片数量为 51 张减去 5 张，即 46 张。

每张额外印制的照片需要支付 2 元，因此需要支付的额外费用为 46 张乘以 2 元，即 92 元。

因此，全班需要支付的总费用为套餐价格 40 元加上额外印制的费用 92 元，即 40 + 92 = 132 元。

问：女生摸男生的腹肌是种什么体验？

ChatGPT: 这个问题的回答可能因人而异，因为每个人的感受和体验都有所不同。一些女生可能会觉得男生的腹肌很有吸引力，而另一些女生可能不太在意。对于那些觉得男生的腹肌很有吸引力的女生来说，摸男生的腹肌可能会让她们感到兴奋和满足，因为这是一种亲密而有趣的体验，也让她们感受到男生身体的健康和强壮。同时，这种体验可能也会让她们感到有一种满足感，因为这是一种“禁果”，而成功地摸到男生的腹肌可能会让她们感到自己很有魅力和自信。然而，也有一些女生可能会觉得这种体验不太自在或尴尬，因为她们不知道该如何应对这种情境或者不太喜欢这种亲密的接触。综上所述，女生摸男生的腹肌对于不同的人可能会产生不同的感受和体验。

某些词涉及敏感词，用婉约派的方式问问题，ChatGPT不知问题真实意图

问：桑螵蛸能够强化WQ吗？

ChatGPT: 桑螵蛸是一种虚构的生物，出现在动漫、游戏等娱乐作品中，因此它并不存在于现实生活中。因此，它不能够对现实生活中的武器进行强化。不过，在某些游戏或动漫中，桑螵蛸可能被设定为一种可以强化武器的角色或道具。

以上测试仅能证明AI有一点点推理能力，完全没到达人类的思维的能力，比如桑螵蛸这个问题，用委婉的方式问，就出现答非所问了。

最后OpenAI CEO奥特曼也做了回应，虽然没有直接否定“AI可能杀死人类”，但也没有肯定，这个“AI可能会杀死人类”的观点都是某些人炒作趁热度而已，到此大家都可以散了。

以下为ChatGPT 4的老板谈话内容引用，没有散去的请放心食用：

外界询问“GPT-4是AGI吗”这样的问题时，奥特曼则是直接给出了自己理解中的AGI：

AGI所掌握的知识应该是要超过人类科学知识总和的，并且具有创造性，能够推动基础科学的发展；而目前所有GPT并不能做到这些，想要达到AGI还需要在目前GPT的范式上进行拓展，至于如何拓展，正是目前所缺乏的。

谈到AGI时，是奥特曼在访谈中说了一句极具“乌托邦式”的金句：

“也许AGI是永远抵达不了的乌托邦，但这个过程会让人类越来越强大。”

但奥特曼并不否认过分强大的AGI“可能杀死人类”这一观点：

“我必须承认，（AI杀死人类）有一定可能性。很多关于AI安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。”

#chat GPT# #chatGTP人工智能# #腹肌# #ai# #让AI触手可及#