WARP 逻辑神经网络
机器学习
2026-02-04 v1
摘要
快速高效的 AI 推理日益重要,最近直接学习低级逻辑运算的模型已实现最佳性能。然而,现有逻辑神经网络训练成本高、冗余或依赖近似梯度,限制了可扩展性。为克服这些限制,我们引入 WAlsh Relaxation for Probabilistic (WARP) 逻辑神经网络——一种新颖的基于梯度的框架,高效学习硬件原生逻辑块的组合。我们表明 WARP 可准确学习布尔函数的最简参数表示,且多个先前方法可视为受限的特殊情况。通过引入可学习阈值和残差初始化改进训练过程,同时通过随机平滑桥接放松训练与离散逻辑推理之间的差距。实验表明,WARP 的收敛速度优于最新基线方法,同时能有效扩展到更深的体系结构和更高输入 arity 的逻辑函数。
引用
@article{arxiv.2602.03527,
title = {WARP Logic Neural Networks},
author = {Lino Gerlach and Thore Gerlach and Liv Våge and Elliott Kauffman and Isobel Ojalvo},
journal= {arXiv preprint arXiv:2602.03527},
year = {2026}
}
备注
Under review