通过神经引导符号抽象实现可解释且可说明的逻辑策略
机器学习
2023-10-26 v2 人工智能
计算与语言
计算机科学中的逻辑
符号计算
摘要
神经网络所需的弱先验使其成为使用强化学习(RL)编码和学习策略的主导选择。然而，它们也是黑盒，难以理解智能体的行为，尤其是在图像层面工作时。因此，神经符号 RL 旨在首先创建可解释的策略。不幸的是，可解释性不等于可说明性。为同时实现二者，我们引入神经引导可微逻辑策略(NUDGE)。NUDGE 利用训练好的基于神经网络的智能体引导候选加权逻辑规则的搜索，然后使用可微逻辑训练逻辑智能体。我们的实验评估表明，NUDGE 智能体能够归纳出可解释且可说明的策略，同时优于纯神经网络策略，并对不同初始状态和环境问题规模表现出良好的灵活性。
引用
@article{arxiv.2306.01439,
title = {Interpretable and Explainable Logical Policies via Neurally Guided Symbolic Abstraction},
author = {Quentin Delfosse and Hikaru Shindo and Devendra Dhami and Kristian Kersting},
journal= {arXiv preprint arXiv:2306.01439},
year = {2023}
}
备注
9 main pages + appendix (19 in total)