MARLeME：一个多智能体强化学习模型提取库
机器学习
2020-04-20 v1 人工智能
机器学习
摘要
多智能体强化学习（MARL）涵盖了一类已被广泛应用于众多领域的强有力方法。进一步增强这些方法效能的一种有效途径是开发能够拓展其可解释性与可说明性的库与工具。本工作中，我们介绍 MARLeME：一个 MARL 模型提取库，旨在通过用符号模型逼近 MARL 系统来提升其可解释性。符号模型提供高度的可解释性、良定义的属性以及可验证的行为。因此，它们可用于检视并更好地理解底层 MARL 系统及相应 MARL 智能体，并可替代那些对安全与安保尤为关键的全体/部分智能体。
引用
@article{arxiv.2004.07928,
title = {MARLeME: A Multi-Agent Reinforcement Learning Model Extraction Library},
author = {Dmitry Kazhdan and Zohreh Shams and Pietro Liò},
journal= {arXiv preprint arXiv:2004.07928},
year = {2020}
}
备注
Presented at the KR2ML workshop at the 33rd Conference on Neural Information Processing Systems (NeurIPS 2019), Vancouver, Canada