泛化图常微分方程以跨环境学习复杂系统动力学
机器学习
2023-07-11 v1 人工智能
计算工程、金融与科学
多智能体系统
神经与进化计算
摘要
多智能体系统动力学的学习已在诸多真实世界应用中被广泛研究，例如生物学中的分子动力学。现有多数模型旨在从观测历史数据学习单一系统动力学并预测未来轨迹。然而在实践中，我们可能观测到跨不同环境生成的多个系统，这些环境在温度、重力等潜在外生因素上有所差异。一种简单方案是学习多个环境专用模型，但其未能利用跨环境动力学的潜在共性，且在各环境数据稀疏或有限时预测效果较差。本文提出 GG-ODE（广义图常微分方程，Generalized Graph Ordinary Differential Equations），一种用于跨环境学习连续多智能体系统动力学的机器学习框架。我们的模型使用由图神经网络（GNNs）参数化的神经常微分方程（ODE）学习系统动力学，以捕捉智能体间的连续交互。我们假设跨不同环境的动力学由可通过学习共享 ODE 函数捕捉的通用物理定律支配，从而实现模型泛化。为每个环境学习的独特潜在外生因素被纳入 ODE 函数以解释其差异。为提升模型性能，我们额外设计两种正则化损失以（1）通过互信息最小化强制学习的初始状态与外生因素正交；（2）通过对比学习减小同一系统内学习到的外生因素的时间方差。多种物理仿真实验表明，我们的模型能准确预测系统动力学，尤其在长程上，并能很好地泛化到观测较少的新系统。
引用
@article{arxiv.2307.04287,
title = {Generalizing Graph ODE for Learning Complex System Dynamics across Environments},
author = {Zijie Huang and Yizhou Sun and Wei Wang},
journal= {arXiv preprint arXiv:2307.04287},
year = {2023}
}