面向图对比学习及更广义情形的谱特征增强
机器学习
2022-12-05 v1 人工智能
计算机视觉与模式识别
摘要
尽管增强(例如图边扰动、图像裁剪)提升了对比学习(CL)的效率，特征级增强是另一合理、互补但研究不足的策路。因此，我们提出一种用于图(及图像)上对比学习的新型谱特征增强。为此，对每个数据视图，我们估计每张特征图的低秩近似，并从该图减去此近似以获得其补图。这由本文提出的不完全幂迭代实现，一种非标准幂迭代机制，其带来两个宝贵副产品(仅一至两次迭代下)：(i) 它部分平衡特征图的谱，以及 (ii) 它将噪声注入特征图重平衡后的奇异值中(谱增强)。对于两个视图，我们对齐这些重平衡特征图，因这一改进的对齐步骤可更聚焦于两视图矩阵的较不占优奇异值，而谱增强不影响谱角对齐(奇异向量未被扰动)。我们推导出：(i) 不完全幂迭代捕获其谱平衡效应的解析形式，以及 (ii) 由噪声隐式增强的奇异值方差的解析形式。我们也展示谱增强改进了泛化界。在图/图像数据集上的实验表明，我们的谱特征增强优于基线，且与其他增强策略互补并与各种对比损失兼容。
引用
@article{arxiv.2212.01026,
title = {Spectral Feature Augmentation for Graph Contrastive Learning and Beyond},
author = {Yifei Zhang and Hao Zhu and Zixing Song and Piotr Koniusz and Irwin King},
journal= {arXiv preprint arXiv:2212.01026},
year = {2022}
}
备注
This paper has been published with the Thirty-Seventh AAAI Conference on Artificial Intelligence (AAAI 2023)