物理序列建模中的误泛化机制

生成式序列模型通常被训练以在物理域中规划运动，从机器人到机械仿真。当构建训练数据集以训练此类模型时，工程师可能精选演示以指定轨迹在物理量（如旅行距离或机械能量）上的分布。例如，构建迷宫导航智能体的机器人工程师可能会选择旅行距离覆盖固定范围的演示，希望约束智能体的预期功耗。我们发现标准深度学习会违反此意图：每个生成的轨迹在各自方面都似乎合理，但整体上对物理量的分布是错误的。我们称此为物理误泛化，并发展了其机制解释。通过受控合成任务，我们展示物理误泛化发生在模型类的局部误差典型传播通过物理测量导致恢复分布偏移时。我们使用数据偏差核估计这些误差，并用它预测在我们的合成任务以及更实际的迷宫导航和双摆运动任务中，哪些物理量获得或失去质量。最终，我们的机制性解释帮助识别哪些缓解策略在结构上最具前景，并用它提出一种基于核的干预措施。