特征对齐：通过预训练模型中的代理进行高效主动学习的再思考

通过主动学习对预训练模型进行微调具有降低标注成本的潜力。然而，这种组合方式会带来显著的计算成本，尤其是随着预训练模型规模的不断增大。最近的研究提出了基于代理的主动学习方法，通过预计算特征来降低计算成本。然而，这种方法往往会导致主动学习性能的显著下降，有时甚至超过了计算成本节省的收益。本文表明，并非所有样本选择的差异都会导致性能下降。进一步，我们展示，合适的训练方法可以缓解由某些选择差异导致的主动学习性能下降。基于详细分析，我们提出了一种新方法，通过更新预计算特征并选择合适的训练方法来提高基于代理的主动学习性能。广泛的实验验证了我们的方法在保持计算效率的同时，提高了高效主动学习的总体成本。代码已公开于 \url{https://github.com/ZiTingW/asvp}。