锐度感知联邦图学习
机器学习
2025-12-19 v1
摘要
将图神经网络（GNN）应用于大规模真实图数据的众多障碍之一是集中训练的挑战，这需要聚合来自不同组织的数据，引发隐私问题。联邦图学习（FGL）通过在不共享私有数据的情况下实现协作GNN模型训练来解决此问题。然而，FGL系统中的一个核心挑战是客户端之间本地训练数据分布的差异，即数据异质性问题。大多数现有解决方案存在两个问题：（1）基于经验风险最小化的典型优化器倾向于使局部模型陷入尖锐谷底，削弱其对分布外图数据的泛化能力。（2）局部图数据所学表示中的普遍维数坍缩对GNN模型的分类能力产生不利影响。为此，我们制定了一种新颖的优化目标，感知局部GNN模型的锐度（即损失面的曲率）。通过同时最小化损失函数及其锐度，我们寻求在具有均匀低损失值的平坦区域中的模型参数，从而改善对异质数据的泛化。通过引入基于局部表示相关矩阵的正则化项，我们放松了单个局部图样本生成的表示之间的相关性，以缓解所学模型的维数坍缩。所提出的锐度感知联邦图学习（SEAL）算法可以增强局部GNN模型在联邦图学习中的分类准确率和泛化能力。在几个图分类基准上的实验研究表明，SEAL持续超越最先进的FGL基线，并为更多参与者提供增益。
引用
@article{arxiv.2512.16247,
title = {Sharpness-aware Federated Graph Learning},
author = {Ruiyu Li and Peige Zhao and Guangxia Li and Pengcheng Wu and Xingyu Gao and Zhiqiang Xu},
journal= {arXiv preprint arXiv:2512.16247},
year = {2025}
}
备注
Accepted by WSDM'26