通过利用表示空间改进神经符号学习
机器学习
2026-02-10 v1
摘要
我们研究在神经符号设定下学习神经分类器的问题，其中输入实例的隐藏真实标签必须满足一个逻辑公式。在此设定下的学习首先计算满足公式的标签组合的（子集），然后使用这些组合和分类器的分数计算损失。一个挑战是标签组合的空间可能呈指数增长，使得学习变得困难。我们提出了一种技术，通过利用直觉——具有相似潜在表示的实例可能共享相同标签——来剪枝这个空间。虽然这种直觉在弱监督学习中被广泛使用，但由于逻辑约束带来的标签依赖性，其在我们的设定中的应用具有挑战性。我们将剪枝过程表述为一个整数线性规划，它在尊重逻辑结构的同时丢弃不一致的标签组合。我们的方法CLIPPER与现有的训练算法正交，可以无缝集成。在16个复杂神经符号任务的基准测试中，我们证明CLIPPER将最先进的神经符号引擎（如Scallop、Dolphin和ISED）的性能分别提升了高达48%、53%和8%，达到了最先进的准确率。
引用
@article{arxiv.2602.07973,
title = {On Improving Neurosymbolic Learning by Exploiting the Representation Space},
author = {Aaditya Naik and Efthymia Tsamoura and Shibo Jin and Mayur Naik and Dan Roth},
journal= {arXiv preprint arXiv:2602.07973},
year = {2026}
}