LEADS：学习可跨环境泛化的动力系统
机器学习
2022-02-15 v2 人工智能
机器学习
摘要
当从真实世界数据样本建模动力系统时，数据的分布常随采集环境而变化，系统本身的动力学也因环境而异。因此，跨环境泛化对常规框架提出了挑战。经典设定要么将数据视为独立同分布（i.i.d.）并学习单一模型以覆盖所有情形，要么学习特定于环境的模型。两者均非最优：前者忽视环境间差异导致有偏解，后者未利用潜在共性且易面临数据稀缺问题。我们提出LEADS，一种利用已知环境间共性与差异以提升模型泛化的新框架。其通过定制的训练公式实现：在共享模型中捕捉共性动力学，同时以附加项刻画环境特定动力学。我们从理论上论证该方法降低了样本复杂度，并在线性动力学实例上实证了这些结果。此外，我们将该框架具体化为神经网络，并在代表性非线性动力学族上实验评估。结果表明，此新设定可利用从环境相关数据中提取的知识，改善已知与未知环境的泛化。代码见https://github.com/yuan-yin/LEADS。
引用
@article{arxiv.2106.04546,
title = {LEADS: Learning Dynamical Systems that Generalize Across Environments},
author = {Yuan Yin and Ibrahim Ayed and Emmanuel de Bézenac and Nicolas Baskiotis and Patrick Gallinari},
journal= {arXiv preprint arXiv:2106.04546},
year = {2022}
}
备注
Published at NeurIPS 2021