校正图卷积的分析
机器学习
2024-12-17 v2 人工智能
离散数学
统计理论
机器学习
统计理论
摘要
图上的节点分类机器学习是一个重要领域，由推荐系统等应用驱动。最先进的模型通常对数据使用多次图卷积，因为经验证据表明这可以提高性能。然而，经验上和理论上都表明，过多的图卷积会显著降低性能，这种现象称为过度平滑。在本文中，我们基于两类上下文随机块模型（CSBM）对原始图卷积的性能进行了严格的理论分析，我们从中移除主特征向量以避免过度平滑。我们对k轮校正图卷积进行了谱分析，并提供了部分分类和精确分类的结果。对于部分分类，我们表明每轮卷积可以将误分类误差指数级降低到饱和水平，之后性能不会恶化。我们还将此分析扩展到具有高斯混合模型分布特征的多类设置。对于精确分类，我们表明可分性阈值可以指数级提高，最多可达O(log n / log log n)次校正卷积。
引用
@article{arxiv.2405.13987,
title = {Analysis of Corrected Graph Convolutions},
author = {Robert Wang and Aseem Baranwal and Kimon Fountoulakis},
journal= {arXiv preprint arXiv:2405.13987},
year = {2024}
}