中文

神经网络为何能通过梯度训练发现符号结构:面向神经符号推理的代数和几何基础

机器学习 2025-07-03 v2

摘要

我们构建了理论框架,解释离散符号结构如何从连续神经网络训练动力学中自然涌现。通过将神经参数提升到度量空间,并将训练建模为Wasserstein梯度流,我们展示在几何约束(如群不变性)下,参数度量μ_t会发生两种并行现象:(1)梯度流解耦为独立于某个潜在函数的优化轨迹,(2)对自由度的逐步收缩。这两个潜在函数编码了与任务相关的代数约束,在度量空间上的交换半环结构下充当环同态。随着训练进行,网络从高维探索过渡到符合代数运算的组合表示,表现出更低的自由度。我们进一步建立了实现符号任务的数据扩展规律,将表征能力与促进符号解决方案的群不变性联系起来。这一框架为理解和设计集成连续学习与离散代数推理的神经符号系统提供了原则性基础。

关键词

引用

@article{arxiv.2506.21797,
  title  = {Why Neural Network Can Discover Symbolic Structures with Gradient-based Training: An Algebraic and Geometric Foundation for Neurosymbolic Reasoning},
  author = {Peihao Wang and Zhangyang Wang},
  journal= {arXiv preprint arXiv:2506.21797},
  year   = {2025}
}

备注

International Conference on Neuro-symbolic Systems (NeuS), 2025