软 actor-critic 的收敛点
机器学习
2023-05-30 v4
摘要
软 actor-critic 是软 Q 学习的一个成功继承者。尽管处于最大熵框架下,它们之间的关系仍不清楚。本文中,我们证明在极限下它们收敛到同一解。这颇具吸引力,因为它将优化从艰难方式转化为更易方式。同样的论证也可应用于其他正则化项如 KL 散度。
关键词
引用
@article{arxiv.2303.01240,
title = {The Point to Which Soft Actor-Critic Converges},
author = {Jianfei Ma},
journal= {arXiv preprint arXiv:2303.01240},
year = {2023}
}