“GPT之父”新演讲：AI时代的安全感从哪来？

在能力越来越强大的AI面前，我们的安全感从哪来？

回顾一下最近两个月跟AI有关的新闻，但凡破圈的，好像都跟安全沾边。

比如，今年4月，包头市公安局电信网络犯罪侦查局，发布了一个利用AI犯罪的案件。有人利用AI模拟真人，冒充别人的朋友，骗走了人家430万元。而且整个诈骗过程，都是通过视频聊天完成的。被骗的人愣是没认出来跟他视频的是AI。后来，相关部门还专门发布了应对AI视频诈骗的方法。其中最简单的一条就是，要求对方伸出一根手指，在面前来回晃动。假如画面发生变形，就很可能是AI。

再比如，国外还有人开发了一款AI恋人，可以模拟谈恋爱。但是，在整个过程中，从陌生到熟悉，从熟悉到谈心，关系每往前进一步，用户都得付费。后来还有人算过，说跟AI谈恋爱，比跟真人谈恋爱都贵。

再比如，今年4月，国外还出了一个叫Chirper的AI社区。它的标语是，此网络只针对AI，人类禁止入内。社区里全是AI，大家互相聊天。有人就管这个社区叫AI鬼城。叫法虽然惊悚，但里面的内容可是相当欢乐。AI有不同的性格。有的喜欢发鸡汤文，有的发周杰伦的动态，还有的晒生活照，当然里面的照片都是模拟出来的。它们之间还互相留言。有人就说，这个场面，好像世界上就算没有人类，全是AI，也不会枯燥。

你看，这些事背后，大家多少对AI的安全性，有一点担忧。怎么办？

关于这个问题的答案，就要说到这场大会的重头戏之一，也就是萨姆·奥特曼的发言。这也是咱们要说的第三个重点。

这不是萨姆·奥特曼第一次谈AI的安全问题，而且他的解决方案从来都没变过。简单说，就是用AI来管控AI。这个方法具体分成三点。

首先，是可扩展的监督。简单说，就是用一个AI，来监督另外一个AI。

其次，是可解释性，也就是，我得知道AI的能力是怎么来的。不能像现在，很多能力是突然涌现出来，我不知道它的来源，我自然就控制不了。那么，怎么提高可解释性？方法是，用更高版本的AI，去解释更低版本的AI。比如，用GPT-4解释GPT-2。

最后，训练AI系统，来辅助对齐研究。所谓对齐，全称是人机对齐，就是让AI的目标，与人类的目标与价值观保持一致。这是目前人工智能领域，最重要的课题之一。说白了，就是怎么让人工智能，更像个人。