一项由哈佛大学和麻省理工学院联合开展的研究发现，即使是在1000万个太阳系数据上训练的Transformer模型，虽然能够精确预测行星轨道，但对万有引力定律却毫无理解。这一发现对当前基础模型的能力边界提出了深刻质疑。
研究团队将目光投向400年前的科学史。德国天文学家开普勒通过几何规律成功预测行星位置，而牛顿在此基础上发展出万有引力定律，不仅能预测轨道，更能解释宇宙中各种物理现象。这种"从预测到理解"的跨越，正是当前AI面临的核心挑战。
为了验证现代AI模型是否实现了类似的跨越，研究团队开发了一种名为"归纳偏置探针"的检测框架。该框架基于一个关键洞察：模型的隐性世界模型会通过其从少量信息中推断的方式显现出来。
研究团队构建了一个包含1.09亿参数的Transformer模型，使用模拟的太阳系轨道数据进行训练。每个序列描述行星绕太阳运行的情况，通过随机采样初始条件来匹配已知系外行星的轨道形状。
在预测准确性方面，该模型表现出色，决定系数超过0.9999，显著优于基准模型。然而，当研究团队使用归纳偏差探针深入分析时，发现了令人意外的结果。
当对模型进行微调以预测行星受力向量时，其预测结果所隐含的引力定律毫无物理意义。通过符号回归分析，研究团队发现该模型并未学习到通用的物理定律，而是根据不同的数据片段采用不同的、看似随机的定律。
启发式规则vs世界模型
研究结果表明，这些先进的AI模型实际上依赖的是零散的启发式规则，而非构建了连贯的世界模型。它们会对物理状态截然不同的轨道做出相似预测，而对状态非常相似的轨道则给出不同预测，这与真正理解物理定律的行为完全相反。
这一发现对基础模型的核心假设提出了挑战。长期以来，研究界认为学习预测序列能够揭示更深层次的规律，甚至构建出世界模型。然而，本研究表明，即使在预测任务中表现优异，模型也可能缺乏对底层机制的真正理解。
这项研究的意义不仅限于物理学应用。它为理解当前大型语言模型和其他基础模型的局限性提供了重要视角。虽然这些模型在各种任务中表现出色，但它们可能更像是复杂的模式匹配器，而非真正的世界理解者。
研究团队指出，未来的关键挑战在于开发能够自动构建基础模型行为中隐式世界模型的技术。这需要我们重新思考如何设计和训练AI系统，使其不仅能够预测，更能够理解。
该研究已被2025年国际机器学习会议收录，为AI领域的发展提供了重要的理论基础和实证支撑。它提醒我们，在追求更强大AI能力的同时，也需要更深入地理解这些系统的内在工作机制。
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-