神经符号系统的数学框架与学习技术套件
机器学习
2025-07-22 v2 人工智能
摘要
神经符号 (NeSy) 系统领域发展迅猛。已提出的方法在实现神经与符号方法的共生融合方面显示出巨大潜力。然而，亟需一个统一的框架来组织常见的 NeSy 模型模式并发展通用学习方法。本文引入神经符号能量基模型 (NeSy-EBMs)，作为判别和生成 NeSy 模型的统一数学框架。重要的是，NeSy-EBMs 允许推导出主流学习损失函数的梯度表达式，我们引入一套四种学习方法，利用来自多个领域的方法，包括双层优化和随机策略优化。最后，我们以 Neural Probabilistic Soft Logic (NeuPSL) 为 NeSy-EBM 框架提供实现，这是一个面向可扩展性和可表达性的开源 NeSy-EBM 库，促进 NeSy 系统的实际应用。通过在多个数据集上的广泛实证分析，我们展示了 NeSy-EBMs 在 various 任务中的实际优势，包括图像分类、图的节点标记、自动驾驶车辆情境意识和问答系统。
引用
@article{arxiv.2407.09693,
title = {A Mathematical Framework and a Suite of Learning Techniques for Neural-Symbolic Systems},
author = {Charles Dickens and Connor Pryor and Changyu Gao and Alon Albalak and Eriq Augustine and William Wang and Stephen Wright and Lise Getoor},
journal= {arXiv preprint arXiv:2407.09693},
year = {2025}
}