中文

余预层拓扑神经网络:一种广义深度学习框架

机器学习 2025-10-28 v3

摘要

我们引入了余预层拓扑神经网络(CTNNs),这是一个强大的统一框架,涵盖了广泛的深度学习架构,旨在处理结构化数据,包括图像、点云、图、网格和拓扑流形。尽管深度学习已深刻影响了从数字助手到自主系统等多个领域,但针对特定任务和数据类型量身定制的神经架构的原理性设计仍然是该领域最持久的开放挑战之一。CTNNs 通过用余预层的语言来表述模型设计,弥补了这一差距。余预层是代数拓扑中的一个概念,推广了当今使用的大多数实用深度学习模型。这种抽象而具构造性的表述产生了一个丰富的设计空间,从中可以推导出理论上合理且实际有效的解决方案,以解决表示学习中的核心挑战,如长程依赖性、过平滑、异配性和非欧几里得域。我们在结构化数据基准上的实证结果表明,CTNNs 始终优于传统基线,尤其是在需要层次化或局部敏感性的任务中。这些结果确立了 CTNNs 作为下一代深度学习架构的原理性多尺度基础。

关键词

引用

@article{arxiv.2505.21251,
  title  = {Copresheaf Topological Neural Networks: A Generalized Deep Learning Framework},
  author = {Mustafa Hajij and Lennart Bastian and Sarah Osentoski and Hardik Kabaria and John L. Davenport and Sheik Dawood and Balaji Cherukuri and Joseph G. Kocheemoolayil and Nastaran Shahmansouri and Adrian Lew and Theodore Papamarkou and Tolga Birdal},
  journal= {arXiv preprint arXiv:2505.21251},
  year   = {2025}
}

备注

Accepted at NeurIPS 2025