深度强化学习中的休眠神经元现象
机器学习
2023-06-14 v2
摘要
本工作中我们识别出深度强化学习中的休眠神经元现象，即智能体网络的不活跃神经元数量不断增加，从而影响网络表达能力。我们证明了该现象在多种算法与环境中的存在，并强调了其对学习的影响。为解决此问题，我们提出一种简单有效的方法（ReDo），在训练过程中回收休眠神经元。实验表明，ReDo通过减少休眠神经元数量维持了网络的表达能力，并带来性能提升。
引用
@article{arxiv.2302.12902,
title = {The Dormant Neuron Phenomenon in Deep Reinforcement Learning},
author = {Ghada Sokar and Rishabh Agarwal and Pablo Samuel Castro and Utku Evci},
journal= {arXiv preprint arXiv:2302.12902},
year = {2023}
}
备注
Oral at ICML 2023