CTSketch:面向可扩展神经符号学习的组合张量素描
机器学习
2025-10-24 v2
摘要
许多计算任务得益于被表述为神经网络与离散符号程序的组合。神经符号学习的目标是利用复合模型的端到端输入-输出标签来训练神经网络。我们引入了 CTSketch,一种新颖且可扩展的神经符号学习算法。CTSketch 使用两种技术来提高神经符号推理的可扩展性:将符号程序分解为子程序,并用素描张量概括每个子程序。这一策略允许我们通过对输入分布和素描进行简单的张量运算,来近似程序的输出分布。我们对最大近似误差提供了理论见解。此外,我们在神经符号学习文献的基准上评估了 CTSketch,包括一些专为评估可扩展性而设计的基准。结果表明,CTSketch 将神经符号学习推向了此前无法企及的新规模,尽管仅对最终输出进行监督,神经预测器在具有一千个输入的任务上仍获得了高准确率。
引用
@article{arxiv.2503.24123,
title = {CTSketch: Compositional Tensor Sketching for Scalable Neurosymbolic Learning},
author = {Seewon Choi and Alaia Solko-Breslin and Rajeev Alur and Eric Wong},
journal= {arXiv preprint arXiv:2503.24123},
year = {2025}
}
备注
18 pages, 6 figures