重访广义 p-Laplacian 正则化框架小波图卷积网络：收敛性、能量动态与非线性扩散训练
机器学习
2023-09-20 v4
摘要
本文对图 p-Laplacian 正则化框架小波网络（pL-UFG）进行了全面的理论分析，以建立对其性质的扎实理解。我们对 pL-UFG 进行了收敛性分析，弥补了对其渐近行为理解的不足。进一步通过研究 pL-UFG 的广义 Dirichlet 能量，我们证明了 Dirichlet 能量在收敛过程中始终保持非零，从而避免了过平滑问题。此外，我们阐明了能量动态视角，突出了 pL-UFG 中隐式层与图框架小波之间的协同关系。这种协同增强了模型对同配与异配数据的适应性。值得注意的是，我们揭示了 pL-UFG 可被解释为一种广义非线性扩散过程，从而弥合了 pL-UFG 与图上微分方程之间的鸿沟。重要的是，这些多面分析得出了统一的结论，为理解、实现 pL-UFG 以及其他图神经网络（GNN）模型提供了新颖的见解。最后，基于我们的动态分析，我们提出了两种具有手动控制能量动态的 novel pL-UFG 模型。我们从经验和理论上证明，我们所提模型不仅继承了 pL-UFG 的优势，还显著降低了在大规模图数据集上训练的计算成本。
引用
@article{arxiv.2305.15639,
title = {Revisiting Generalized p-Laplacian Regularized Framelet GCNs: Convergence, Energy Dynamic and Training with Non-Linear Diffusion},
author = {Dai Shi and Zhiqi Shao and Yi Guo and Qibin Zhao and Junbin Gao},
journal= {arXiv preprint arXiv:2305.15639},
year = {2023}
}