基于亲和力的强化学习智能体之马尔可夫模型符号解释
机器学习
2022-08-30 v2 人工智能
摘要
人工智能的扩散日益依赖于对模型的理解。理解既需要解释——人对模型行为的人类推理——又需要说明——模型运作的符号表示。尽管透明度对于安全、信任与接受度必不可少，但最先进强化学习算法的不透明性掩盖了其习得策略的基本原理。我们开发了一种策略正则化方法，其断言习得策略的全局内在亲和力。这些亲和力提供了对策略行为进行推理的手段，从而使其本质可解释。我们已在个性化财富管理中展示了我们的方法，其中个体随时间的消费行为决定其投资策略，即不同的消费人格可能与不同投资类别有相异关联。我们现在通过用离散化马尔可夫模型复现底层原型策略来解释我们的模型。这些全局代理是原型策略的符号表示。
引用
@article{arxiv.2208.12627,
title = {Symbolic Explanation of Affinity-Based Reinforcement Learning Agents with Markov Models},
author = {Charl Maree and Christian W. Omlin},
journal= {arXiv preprint arXiv:2208.12627},
year = {2022}
}