拓扑盲区：通过表达性视角理解与扩展拓扑深度学习
机器学习
2025-02-13 v2 代数拓扑
机器学习
摘要
拓扑深度学习 (TDL) 是一个快速增长的领域，旨在利用数据中的拓扑结构并促进来自支持于拓扑对象的数据的学习，这些对象范围从分子到 3D 形状。大多数 TDL 架构可以统一到更高阶消息传递 (HOMP) 框架下，该框架将图消息传递推广到更高阶领域。在本文的第一部分中，我们从拓扑视角探索 HOMP 的表达力，表明该框架无法捕获基本的拓扑和度量不变量，如直径、可定向性、平面性和同调。此外，我们展示了 HOMP 在充分利用提升和池化方法方面的局限性。鉴于目前尚无人从\emph{拓扑}视角研究 TDL 的表达性，这一工作是首次。在本文的第二部分中，我们发展了两种新的架构类别——多细胞网络 (MCN) 和可扩展 MCN (SMCN)——这两种架构受到具有表达力的图神经网络的启发。MCN 能够达到完全的表达性，但将其扩展到大型数据对象可能是计算密集型的。作为更可扩展的替代方案，SMCN 仍然缓解了许多 HOMP 的表达性局限性。最后，我们为评估基于其学习拓扑复杂体属性能力的模型创建了新的基准。我们在这些基准上对 SMCN 进行评估，并在真实世界的图数据集上进行评估，表明其在 HOMP 基线和表达图方法方面均有所改进，凸显了充分利用拓扑信息的表达价值。代码和数据可在 https://github.com/yoavgelberg/SMCN 获取。
引用
@article{arxiv.2408.05486,
title = {Topological Blindspots: Understanding and Extending Topological Deep Learning Through the Lens of Expressivity},
author = {Yam Eitan and Yoav Gelberg and Guy Bar-Shalom and Fabrizio Frasca and Michael Bronstein and Haggai Maron},
journal= {arXiv preprint arXiv:2408.05486},
year = {2025}
}