中文

WARP 逻辑神经网络

机器学习 2026-02-04 v1

摘要

快速高效的 AI 推理日益重要,最近直接学习低级逻辑运算的模型已实现最佳性能。然而,现有逻辑神经网络训练成本高、冗余或依赖近似梯度,限制了可扩展性。为克服这些限制,我们引入 WAlsh Relaxation for Probabilistic (WARP) 逻辑神经网络——一种新颖的基于梯度的框架,高效学习硬件原生逻辑块的组合。我们表明 WARP 可准确学习布尔函数的最简参数表示,且多个先前方法可视为受限的特殊情况。通过引入可学习阈值和残差初始化改进训练过程,同时通过随机平滑桥接放松训练与离散逻辑推理之间的差距。实验表明,WARP 的收敛速度优于最新基线方法,同时能有效扩展到更深的体系结构和更高输入 arity 的逻辑函数。

关键词

引用

@article{arxiv.2602.03527,
  title  = {WARP Logic Neural Networks},
  author = {Lino Gerlach and Thore Gerlach and Liv Våge and Elliott Kauffman and Isobel Ojalvo},
  journal= {arXiv preprint arXiv:2602.03527},
  year   = {2026}
}

备注

Under review