AGI 幻灭与世界模型神话的破灭

LLM 的局限性

尽管大型语言模型 (LLM) 能够流畅地进行推理和回答问题，但它们背后的思维链条实际上只是复杂的统计模式匹配，而不是真正的推理能力。AI 模型通过海量数据和经验法则来生成响应，而不是通过深刻的世界模型和逻辑推理来做出决策。

AI 的思维方式与人类不同

越来越多的人认为，AI 的思维方式与人类完全不同。研究者们发现，如今的 AI 模型在底层架构上就存在根本性的局限。AI 本质上是通过学习海量的经验规则，然后将这些规则应用到它们所接触到的信息上，进而模拟智能。这与人类，甚至动物对世界的理解方式大不相同。生物体会构建一个关于世界如何运转的“世界模型”，其中包含因果关系，能够预测未来。

“一堆经验法则”

Santa Fe 研究所研究 AI 的教授 Melanie Mitchell 认为，越来越多的研究表明，AI 模型似乎发展出了海量的“经验法则”，而不是构建更高效的心理模型来理解情境，然后通过推理完成任务。哈佛大学的 AI 研究员 Keyon Vafa 首次听到“一堆经验法则”这个提法时表示“感觉一下子点醒了我——这就是我们一直想描述的东西。”

AI 不懂因果关系

Vafa 的研究试图搞清楚：当 AI 被输入数百万条类似谷歌地图的逐步导航指令后，会构建出怎样的认知地图。他和团队以曼哈顿错综复杂的街道网络作为测试样本。结果发现，AI 画的看起来根本不像曼哈顿的街道地图。仔细检查发现，AI 竟然推演出各种离谱路线——比如横穿中央公园的直线，或者斜着连跨好几个街区。但诡异的是，这个模型给出的分步导航指令在 99% 的情况下居然能用。

世界模型神话的破灭

AI 工程师们宣称，他们的模型也在其庞大的人工神经网络中构建出了类似的“世界模型”。证据是这些模型能够写出流畅的文章，并能表现出明显的推理能力。尤其是最近推理模型取得的进展，更加让人相信已经走在了通向 AGI 的正确道路上。然而，近期的研究让我们可以从内部窥探一些模型的运行机制，结果让人怀疑是否真的在接近 AGI。

LeCun 的观点

Yann LeCun 曾表示，基于预测世界模型的自监督学习，才是通往 AGI 的唯一可行路径。而 Hinton 则认为，Transformer 永远无法实现真正的智能。

结论

AGI 的实现仍然面临着巨大的挑战。AI 模型在理解因果关系和构建世界模型方面存在根本性的局限。我们需要重新审视 AI 的发展方向，探索新的方法来实现真正的通用人工智能。