通过锋利感知最小化视角重新思考图模型的泛化
机器学习
2026-02-10 v1
摘要
图神经网络（GNN）在各种图基任务上取得了显著的成功，但对分布偏移仍高度敏感。在本工作中，我们关注图泛化中一种普遍且鲜有探索的现象——最小位移翻转（MSF），即测试样本在轻微偏离训练分布时会被突然误分类。为解释这一现象，我们通过锋利感知最小化（SAM）的视角重新审视 MSF，SAM 描述了损失景观的局部稳定性和锋利程度，同时为建模泛化误差提供了理论基础。为量化损失锋利程度，我们引入局部鲁棒半径的概念，衡量翻转预测所需的最小扰动，建立了局部稳定性与泛化之间的理论联系。基于这一视角，我们进一步观察到训练期间鲁棒半径持续下降，表明局部稳定性减弱且损失景观变得越来越锋利，从而导致 MSF。为同时解决 MSF 现象和半径的难以计算问题，我们发展了能量基 formulation，其理论上与鲁棒半径单调相关，为建模平坦性和稳定性提供了可计算且原则的方法。基于这些见解，我们提出了一种能量驱动的生成式数据增强框架（E2A），利用能量引导的潜在扰动生成伪 OOD 样本以增强模型泛化。广泛的实验表明，E2A 在多个基准测试上 consistently 提升图模型 OOD 泛化，超越了最先进的基线方法。
引用
@article{arxiv.2602.08855,
title = {Rethinking Graph Generalization through the Lens of Sharpness-Aware Minimization},
author = {Yang Qiu and Yixiong Zou and Jun Wang},
journal= {arXiv preprint arXiv:2602.08855},
year = {2026}
}