KLay:用于神经符号AI的算术电路高速计算
机器学习
2025-02-24 v3
摘要
神经符号AI的常用方法是将逻辑公式映射到算术电路(由求和和乘积组成的计算图)中,并将神经网络的输出通过这些电路。该方法以原则且端到端可微的方式将符号约束应用于神经网络。然而,算术电路在现代AI加速器上运行具有挑战,因为其呈现高度不规则的稀疏性。为此,我们引入知识层(KLay),一种用于表示算术电路的数据结构,可在GPU上高效并行化。此外,我们贡献了两种用于将传统电路表示转换为KLay的算法,以及一种在电路求值期间利用并行化机会的进一步算法。我们通过实验表明,KLay相对于现有方法实现了多个数量级的加速,从而为将神经符号AI扩展至更大规模的实际应用铺平了道路。
引用
@article{arxiv.2410.11415,
title = {KLay: Accelerating Arithmetic Circuits for Neurosymbolic AI},
author = {Jaron Maene and Vincent Derkinderen and Pedro Zuidberg Dos Martires},
journal= {arXiv preprint arXiv:2410.11415},
year = {2025}
}
备注
Accepted to ICLR 2025