关注弱者：通过跨自由对抗训练增强图压缩
机器学习
2023-11-28 v1
摘要
本文研究图压缩问题，将大型复杂图压缩为简洁的合成表示，以保留结构与特征中最本质且具判别力的信息。我们首创性地提出“减震器”（一种扰动）概念，以对抗训练方式增强原始图针对变化的鲁棒性与稳定性。具体地，（I）我们定期强制匹配在合成简化图上训练的预选图神经网络（GNN）与原始训练图之间的梯度。（II）在每次更新合成图点之前，减震器作为梯度攻击者，通过选择性扰动代表性不足或信息不充分的部分，来最大化合成数据集与原始图之间的距离。我们以对抗训练方式迭代重复上述两个过程（I 和 II），以在保持高信息量上下文的同时不丢失与原始数据集的关联。更重要的是，我们的减震器与合成图以自由训练方式并行共享反向过程。与原始对抗训练相比，其几乎不引入额外时间开销。我们在 8 个数据集（3 个图与 5 个节点分类数据集）上验证框架并取得突出结果：例如在 Cora、Citeseer 和 Ogbn-Arxiv 上，相较 SOTA 模型可获得近 1.13% 至 5.03% 的提升。此外，相较 Flicker、Citeseer 和 Ogbn-Arxiv，我们的算法仅增加约 0.2% 至 2.2% 的额外时间开销。与常规对抗训练相比，我们的方法将时间效率提升近 4 倍。
引用
@article{arxiv.2311.15772,
title = {Attend Who is Weak: Enhancing Graph Condensation via Cross-Free Adversarial Training},
author = {Xinglin Li and Kun Wang and Hanhui Deng and Yuxuan Liang and Di Wu},
journal= {arXiv preprint arXiv:2311.15772},
year = {2023}
}