特征空间扰动：增强迁移性估计的全能良方
机器学习
2025-02-25 v1 计算机视觉与模式识别
摘要
利用迁移性估计指标有助于解决从预训练模型池中为下游任务选择最佳模型的非平凡难题。大多数现有指标主要关注特征嵌入与对应标签之间统计关系，却忽视了模型鲁棒性这一关键方面。这种疏忽可能限制其在准确排序预训练模型方面的效果。为此，我们引入一种特征扰动方法，通过系统性地改变特征空间来增强迁移性估计过程。本方法包括扩散操作（Spread operation），增加类内变异性，在类内添加复杂性；以及吸引操作（Attract operation），最小化不同类别之间的距离，从而模糊类边界。通过大量实验，我们展示了特征扰动方法在提供更精确和更稳健的模型迁移性估计方面的有效性。值得注意的是，现有LogMe方法在应用我们的特征扰动方法后表现显著提升，性能提升28.84%。
引用
@article{arxiv.2502.16471,
title = {Feature Space Perturbation: A Panacea to Enhanced Transferability Estimation},
author = {Prafful Kumar Khoba and Zijian Wang and Chetan Arora and Mahsa Baktashmotlagh},
journal= {arXiv preprint arXiv:2502.16471},
year = {2025}
}