面向物理信息机器学习的 PAC-Bayesian 泛化视角
机器学习
2026-05-27 v1 机器学习
摘要
物理信息机器学习 (Physics-informed machine learning, PIML) 将通常以偏微分方程 (PDE) 形式表示的机制性知识集成到数据驱动模型中。尽管具有强大的经验性能，但其统计泛化特性仍不为人所理解，特别是在损失函数无界的回归设置下。现有分析依赖于近似或稳定性论证，未能充分捕捉物理结构如何从有限数据影响泛化的方式。本文构建 PAC-Bayesian 框架，用于 PIML，提供有限损失下的高概率泛化保证。我们采用多任务视角，联合处理数据保真性、PDE 残差、初始条件和边界条件，避免标准并列界限方法带来的松弛。我们的分析利用物理信息目标的结构，推导出复杂度随输入梯度范数而缩放的新型界限，揭示了物理规律性与泛化性之间的直接联系。我们在 Sobolev 和 Poincaré 类型假设下实例化该框架，得到两种不同 regimes 下的复杂度与光滑性权衡的界限类。建立在这些结果之上，我们提出一种自界限感知学习算法，直接优化可计算的界限替代品，以及一种在实际场景中估计相关常数的实用程序。经典 PDE 基准测试的经验评估表明，所得界限不空洞，显著紧凑于并列界限基线，并且可在训练期间有效最小化。总体而言，我们的结果为 PIML 的泛化提供了原则化的统计基础。
引用
@article{arxiv.2605.26341,
title = {A PAC-Bayesian View of Generalisation for Physics-Informed Machine Learning},
author = {Thien V. Nguyen and Amaury Habrard and Benjamin Guedj},
journal= {arXiv preprint arXiv:2605.26341},
year = {2026}
}