基于稀疏全局对比解释的策略优化
机器学习
2022-07-14 v1
摘要
我们开发了一个强化学习(RL)框架，通过稀疏的、用户可解释的改变来改进现有行为策略。我们的目标是在获得尽可能多收益的同时做出最小改动。我们将最小改动定义为原始策略与所提策略之间具有稀疏的全局对比解释。我们在保持该全局对比解释简短的约束下改进当前策略。我们在离散 MDP 和连续 2D 导航域上展示了我们的框架。
引用
@article{arxiv.2207.06269,
title = {Policy Optimization with Sparse Global Contrastive Explanations},
author = {Jiayu Yao and Sonali Parbhoo and Weiwei Pan and Finale Doshi-Velez},
journal= {arXiv preprint arXiv:2207.06269},
year = {2022}
}
备注
Accepted at IMLH Workshop, ICML 2022