具有逻辑规则推理能力的自解释深度模型
人工智能
2022-10-19 v3 机器学习
计算机科学中的逻辑
摘要
我们提出 SELOR，一个将自解释能力集成到给定深度模型中以同时实现高预测性能和人类一致性的框架。所谓“人类一致性”，我们指的是人类与模型为其预测所提供的理由之间的认同程度。人类一致性影响用户信任，并允许用户与模型紧密协作。我们证明逻辑规则解释天然满足人类一致性，并具备良好预测性能所需的表达能力。随后我们阐明如何使深度模型利用逻辑规则进行预测与解释。我们的方法不需要预定义的逻辑规则集或人工标注，并且可以通过广泛使用的深度学习模块以可微分的方式高效且容易地学习。大量实验表明，与其他方法相比，我们的方法给出的解释更贴近人类决策逻辑，同时保持了深度学习模型的性能。
引用
@article{arxiv.2210.07024,
title = {Self-explaining deep models with logic rule reasoning},
author = {Seungeon Lee and Xiting Wang and Sungwon Han and Xiaoyuan Yi and Xing Xie and Meeyoung Cha},
journal= {arXiv preprint arXiv:2210.07024},
year = {2022}
}
备注
26 pages including reference, checklist, and appendix. Accepted in NeurIPS 2022