熵正则化激活：通过将激活作为熵约束提升连续控制、大语言模型和图像分类
机器学习
2025-10-13 v2
摘要
我们提出了 ERA（Entropy Regularizing Activation）方法，通过对模型输出施加特殊设计的激活函数，将抽样熵约束在给定阈值以上。我们的方法在不同领域展现出广泛有效性：1）对于大语言模型（LLM），将 Qwen2.5-Math-7B 在 AIME 2025 比分提升 37.4%；2）对于连续控制强化学习智能体，在具有挑战性的 HumanoidBench 上相对于诸如 SAC 等强基准性能提升超过 30%；3）对于图像分类，使 ResNet-50 在 ImageNet top-1 准确率提升 0.69%。这些收益以不足 7% 的计算开销实现。我们的工作验证了将输出激活作为控制熵的强大工具，开启了设计更简单且更稳健算法的新方向。
引用
@article{arxiv.2510.08549,
title = {Entropy Regularizing Activation: Boosting Continuous Control, Large Language Models, and Image Classification with Activation as Entropy Constraints},
author = {Zilin Kang and Chonghua Liao and Tingqiang Xu and Huazhe Xu},
journal= {arXiv preprint arXiv:2510.08549},
year = {2025}
}