关于强化学习泛化中超参数及其相互依赖关系的实证研究
机器学习
2019-06-04 v1 人工智能
机器学习
摘要
强化学习(RL)近期的结果表明,在有限训练环境下的智能体在许多领域都容易出现大量过拟合。RL泛化的一个关键挑战是定量解释参数改变对测试性能的影响。此类参数包括架构、正则化以及依赖于RL的变量(如折扣因子与动作随机性)。我们提供的实证结果显示了超参数与泛化之间复杂且相互依赖的关系。我们进一步表明,若干实证度量(如梯度余弦相似度与轨迹相关度量)有助于直观理解这些结果。
引用
@article{arxiv.1906.00431,
title = {An Empirical Study on Hyperparameters and their Interdependence for RL Generalization},
author = {Xingyou Song and Yilun Du and Jacob Jackson},
journal= {arXiv preprint arXiv:1906.00431},
year = {2019}
}
备注
Published in ICML 2019 Workshop "Understanding and Improving Generalization in Deep Learning"