DSAC-C:面向鲁棒离散软演员评论家的约束最大熵方法
机器学习
2025-06-24 v2
摘要
我们提出了软演员评论家(SAC)算法族的一种新扩展。我们认为,基于最大熵原理,通过源自替代评论家策略的附加统计约束,可进一步改进离散SAC。此外,我们的研究结果表明,这些约束针对潜在的域偏移提供了额外的鲁棒性,而域偏移对于强化学习智能体在现实世界中的安全部署至关重要。我们提供了理论分析,并展示了在低数据条件下针对Atari 2600游戏的同分布与分布外变体的实证结果。
引用
@article{arxiv.2310.17173,
title = {DSAC-C: Constrained Maximum Entropy for Robust Discrete Soft-Actor Critic},
author = {Dexter Neo and Tsuhan Chen},
journal= {arXiv preprint arXiv:2310.17173},
year = {2025}
}
备注
Accepted by IJCNN'25