表示收敛：互蒸馏是隐式正则化的一种形式
机器学习
2025-09-25 v5 人工智能
摘要
本文论证了强化学习策略之间的互蒸馏作为一种隐式正则化，防止它们过拟合到无关特征。我们强调两个独立贡献：(i) 理论上，首次证明了增强策略对无关特征的鲁棒性可以提高泛化性能。(ii) 实验上，我们证明了策略之间的互蒸馏有助于这种鲁棒性，使得在像素输入上自发出现不变表示。最终，我们并不声称达到最先进的性能，而是专注于揭示泛化的基本原理并加深对其机制的理解。
引用
@article{arxiv.2501.02481,
title = {Representation Convergence: Mutual Distillation is Secretly a Form of Regularization},
author = {Zhengpeng Xie and Jiahang Cao and Changwei Wang and Fan Yang and Marco Hutter and Qiang Zhang and Jianxiong Zhang and Renjing Xu},
journal= {arXiv preprint arXiv:2501.02481},
year = {2025}
}