ASAP：基于标签分布漂移自适应学习率的无监督后训练
机器学习
2025-08-20 v1
摘要
在实际应用中，机器学习模型面临在线标签漂移问题，即标签分布随时间变化。有效的适应需要仔细选择学习率：学习率过低会减缓适应，过高则导致不稳定。我们提出ASAP（Adaptive Shift Aware Post-training），通过计算当前与前一 unlabeled outputs 之间的余弦距离，并将其映射到有界范围内，从而动态调整学习率。ASAP无需标签、模型集成或历史输入，仅使用前一次 softmax 输出即可实现快速轻量级适应。跨多个数据集和漂移情景的实验表明，ASAP consistently 改善了准确率和效率，具有实际应用价值。
引用
@article{arxiv.2508.13445,
title = {ASAP: Unsupervised Post-training with Label Distribution Shift Adaptive Learning Rate},
author = {Heewon Park and Mugon Joe and Miru Kim and Minhae Kwon},
journal= {arXiv preprint arXiv:2508.13445},
year = {2025}
}
备注
5 pages, 3 figures, accepted for ACM CIKM 2025