基于子空间追逐的神经网络公理化
机器学习
2026-05-21 v1 人工智能
机器学习
摘要
虽然深度神经网络在广泛的领域内取得了显著的成功,但其背后的机制仍鲜有了解,常被视为黑盒子。这种在经验性能与理论理解之间存在的差距,类似于古典几何的非公理化阶段。在本工作中,我们提出子空间追逐(PoS)假设,这是一种形式化神经网络行为的公理框架,通过一组几何公理来表述神经网络的行为。这些公理及其导出的后果,提供了关于浅层和深层架构中表示、计算和泛化的统一视角。我们展示了这一框架为深入问题的基本解答提供了几何解释,包括表示结构、架构机制和泛化行为,为走向连贯理论基础的原则性步骤。
引用
@article{arxiv.2605.20534,
title = {Axiomatizing Neural Networks via Pursuit of Subspaces},
author = {Mehmet Yamac and Mert Duman and Ugur Akpinar and Felix Rojas Casadiego and Serkan Kiranyaz and Marcel van Gerven and Moncef Gabbouj},
journal= {arXiv preprint arXiv:2605.20534},
year = {2026}
}
备注
43 pages, 25 figures. Code and additional materials will be released