Jason 分享一些 Yann LeCun的基本思想： 自回归预测架构存在本质缺陷，最终导致每次生成的结果都是不同的，如果不重新设计系统是没法解决的。因为每轮预测的结果都是在之前的信息基础上生成的，会存在指数的发散过程。表现就是输出长文本时胡说八道，每次结果都不同。简单来说，蝴蝶效应； 除非我们拥有以视觉形式提供的直接感官信息系统，否则我们将无法达到人类水平的人工智能。这是因为大多数的人类知识其实都是非语言的。我们在生命最初的几个月学到的关于世界的大量的背景知识，动物也是，都和语言无关。 目前的人工智能没有思考能力，也并不是以人类那样的理解的方式进行推理，计划能力非常有限。我们需要一种可实现分层规划的AI系统，可将复杂的任务分解为更简单的任务的层次结构。目前没有任何一个系统可以实现这一点。我们还远远没有找到猫或者狗那样理解世界的机制 解决以上问题可能需要放弃“预测需要基于生成”的想法，虽然目前最流行的就是生成式模型，同时我们也需要放弃概率模型、强化学习，因为效率太低了。我们可能需要一个联合嵌入架构，并且是基于能量的模型。 总结自Yann LeCun的演讲 https://www.youtube.com/watch?v=vyqXLJsmsrk Yann是一位获得图灵奖（计算机领域的诺贝尔奖）的法国计算机科学家；llama2的设计者；