LeCun预言AGI：大模型和强化学习都是斜道！「世界模型」才是新路

阿尔法公社

重度帮助创业者的天使投资基金

阿尔法公社说：图灵奖获得者Yann LeCun最近接受了《MIT科技评论》的采访，谈到了他对下一代AI新的想法。他认为AGI（通用人工智能）是人类与未来科技互动的不可或缺部分，而「世界模型」是AGI核心。什么是「世界模型」，它的重要性是什么？欢迎参考Yann LeCun的最新观点。

AI界当代最著名巨擘之一、Meta的AI实验室灵魂人物Yann LeCun，长期致力于让机器对世界的运转理念有基础了解，也就是让AI获得常识。

LeCun过去的做法，是用视频选段训练神经网络，让AI逐个像素地预测日常活动视频下一帧将会出现啥。不出人意料地，他自己承认这途径撞上了铁板。

在数月到一年半之间的思考后，LeCun对下一代AI有了新的想法。

AI新路径

在《MIT科技评论》的采访中，LeCun勾勒出他的新研究路径，称如此会给机器赋予探索世界的常识基础。

对LeCun而言，这就是打造AGI（通用人工智能）的第一步。

能像人一样思考的机器，在AI业界诞生时就是指导性愿景，同时也是争议最大的理念之一。

不过LeCun的新路径或许还很不完备，引来的疑问可能比获得的答案还要多。最大的疑问在于，LeCun自己承认了他还不知道如何造出自己所描述的那种AI。

此路径的核心是个能以与之前不同方法审视、学习真实世界的神经网络。LeCun终于放弃了让AI逐个像素猜下一帧视频，只让新的神经网络学会完成任务必备的关键知识。

然后LeCun打算将这个神经网络与另一个被称为「配置器」的神经网络配对。「配置器」专管决定哪些细节是主神经网络必须学会的、并照此来自动调节主系统。

对LeCun来说，AGI是人类与未来科技互动的不可或缺部分。当然此展望和他押注全副身家搞元宇宙的东家Meta公司不谋而合。

LeCun说，在10-15年间，取代现在智能手机地位的将是AR眼镜。AR眼镜上就必备能辅助人类日常活动的虚拟智能助手。如果这些助手要起最大作用，那必然或多或少要跟得上人脑智能才行。

「世界模型」是AGI核心

LeCun最近热衷的「世界模型」，按他说就是大多数动物大脑的基础运转模式：为真实世界跑个模拟。

动物从婴儿期开始就用预估-试错方法来发育智能。幼孩们通过观察真实世界的运动与挫折，在生命的前几个月就发育出了智能的基础。

观察一个小球掉个几百次，普通婴儿就算没上过基础物理课、学过牛顿三定律，也对重力的存在与运作有基础认知。

所以这种直觉性/默会性推理，被常人称作「常识」。人类就是通过常识来认知真实世界的大多数可能未来与不可能幻想，来预见自己的行为后果并据此做出决策。

如此的人智既不需要像素级精确细节，也不需要完备的物理学参数库。就算有人没有视力、或者是个文盲，一样可以正常发挥智能。

但教机器学会常识就很难。当下的神经网络要被展示数千次示例后，才能开始模糊发现内含规律模式。

LeCun表示，智能的基础是预测即刻未来的常识能力。不过在放弃让AI逐像素预测后，LeCun表示要换个思路。

LeCun打了个比方：想象下你捏根钢笔悬空放手，常识告诉你这根钢笔必然会坠落，但掉落的精确位置则不在人智预测范围内。

按过去的AI开发模式，AI要跑复杂的物理学模型，来预测钢笔是否会坠落、同时求得坠落的精确位置。

现在LeCun努力让AI只预测出钢笔会坠落的常识结论，至于精确位置不在求解范围内。

LeCun说这就是「世界模型」的基本模式。

LeCun表示他已经造出了可以完成基础客体识别的「世界模型」早期版本，现在在致力于训练它学会上述常识性预测。

不过「配置器」在此中的功用，LeCun说自己还没搞明白。

LeCun想象中的「配置器」AI，是整个AGI系统的控制元件。它将要决定「世界模型」在任何时刻需要做出何等常识性预测、并调适「世界模型」为此该处理的细节数据。

LeCun现在坚信「配置器」必不可少，但不知道怎么训练一个神经网络来做到这效果。「我们需要摸索出可行的技术清单来，而这个清单现在还不存在。」

在LeCun的愿景中，「配置器」和「世界模型」是未来AGI基础认知架构的两大核心部分，在此之上才能发展出感知世界的认知模型、驱使AI调整行为的激励模型等等。

LeCun称，如此神经网络就能做到每部分都在成功模拟人脑。比如「配置器」和「世界模型」起了前额叶的作用，激励模型是AI的杏仁体，等等。

认知架构、不同层面细节的预测模型，这些都是多年来业界中既有的一派观点。不过当深度学习成为AI业界主流后，很多此类老点子就显得过时。

现在LeCun重拾传统智慧：「AI研究界把这些东西忘掉好多了。」

大模型和强化学习都是死路

之所以重走旧路，是因为LeCun坚信现在的业界主流路径已经走进死胡同。

关于如何做出AGI来，现在AI业界有两种主流观点。

一是很多研究者坚信到搞出乌龙的路径：就像OpenAI家的GPT系列和DALL-E系列那样，模型越大越好，大到超过临界点，AI就觉醒人智了。

二是强化学习：不断地试错，并按试错结果奖惩AI。这是DeepMind家做各种棋牌AI、游戏AI的路数。这种路径的信徒认为，只要奖励激励设定对头，强化学习终将造出真正AGI。

Lecun表示在座的两种人都是垃圾：

「无限扩张现有大语言模型的量级，最后就能做出人类水平的AI？这种荒唐论调，我一秒钟都没信过。这些模型就只能单纯捯饬各种文本与图像数据，完全没有真实世界的直接体验。」

「强化学习要用巨量数据才能训练模型执行最简单任务，我不认为这种办法有机会做出AGI来。」

业内人对LeCun的观点有支持也有反对。如果LeCun的愿景实现，AI将会成为不亚于互联网的下一代基础高性能技术。但他的声张并不包括自家模型的性能、激励机制、控制机制等等。

不过这些缺陷都是小事，因为不管褒贬，业内人士一致认为要面临这些短板还是久远以后的事。因为即使LeCun也没法在当下马上做出AGI来。

Lecun自己也表示承认此形势，他称自己只希望为新的理论路径播种、让后来者于此基础上建构出成果。

「达到此目标，需要太多人付出太多努力。我现在提出这些，只是因为我认为这条路才是最终的正路。」

就算做不到这点，LeCun也希望说服同行不要单单死盯着大模型和强化学习，最好打开思路。「我讨厌看到大家浪费时间。」

业界反应：褒贬皆有

另外一名AI界泰斗、与LeCun交情好的Yoshua Bengio表示乐见老友圆梦。

「Yann说这些已经说了有日子了，不过看到他整全性地把各种言说归纳到一处，我还是蛮高兴的。然而这些只是研究方向申请而非结果呈报，大家通常只在私底下分享这些，公开聊的风险挺大。」

DeepMind里牵头开发游戏AI AlphaZero的David Silver不赞成LeCun对自己项目的批评，不过欢迎他实现愿景。「LeCun描述的世界模型的确是个令人兴奋的新点子。」

加州圣菲研究所的Melanie Mitchell则赞成LeCun：「业界真的不常在深度学习社群里看到这种观点。但大语言模型真的既缺记忆，又没有能担纲的内在世界模型骨干。」

谷歌大脑的Natasha Jaques不同意：「大家已经看到大语言模型极具效率，也混杂了相当多人类知识。没语言模型，我怎么升级LeCun提出的这个世界模型？就算人类学习，途径也不止亲身经历，还包括口口相传。」

参考资料：
https://www.technologyreview.com/2022/06/24/1054817/yann-lecun-bold-new-vision-future-ai-deep-learning-meta/

本文转载自新智元，内容根据《MIT科技评论》对Yann LeCun的采访编译整理。

关于阿尔法公社

阿尔法公社（Alpha Startup Fund）是中国领先的早期投资基金，由曾带领公司在纳斯达克上市的许四清和前创新工场联合管理合伙人蒋亚萌在2015年共同创立。

阿尔法公社基金的三大特点是系统化投资、社交化创业者社区运营和重度产业资源加速成长。专注在半导体、企业服务软件、人工智能应用、物联网技术、金融科技等科技创新领域进行早期投资。目前已经在天使轮投资了包括白山云科技、领创集团(Advance Intelligence Group)、Zenlayer、帷幄科技、所思科技等为数众多的优秀项目。

阿尔法公社获得36氪“2017年度最受创业者欢迎天使投资机构Top20”、“2019年中国企业服务领域最受LP欢迎早期投资机构”、“2019年中国企业服务领域最具发现力投资机构TOP10”以及“2020中国最受创业者欢迎早期投资机构TOP50”、“2021年度中国最受LP认可早期投资机构TOP30”、“2021年中国最受创业者欢迎早期机构TOP50”、“2021年中国跨境出海领域投资机构TOP10”等奖项；获得钛媒体“2020 EDGE TOP50投资机构”；还获得母基金研究中心“2018年中国早期基金最佳回报TOP30”、“2019中国早期基金最佳回报TOP30”，以及母基金周刊“2020中国投资机构软实力GP100科技力Top10”等奖项。

创始合伙人许四清获得2020年“福布斯中国创投人100”、投中“2019年中国最佳早期投资人TOP50”，以及36氪“2018年中国企业服务领域投资人TOP10”、“2019企业服务领域投资人TOP20”等奖项。创始合伙人蒋亚萌获得2019及2021年“福布斯中国创投人100”、36氪“2019年中国中生代投资人TOP50”大奖。