预测下游任务性能的流形特征
机器学习
2022-05-17 v1 计算机视觉与模式识别
摘要
预训练方法通常通过比较线性分类器精度、迁移学习性能或直观检视表示流形（RM）的降维投影来评估。我们表明，通过直接研究 RM 可更清晰地理解方法间差异，从而实现更细致的比较。为此，我们提出一个框架与新度量来度量并比较不同 RM。我们还调查并报告了多种预训练方法的 RM 特征。这些特征通过对输入数据施加逐级增大的局部扰动（使用白噪声注入与投影梯度下降（PGD）对抗攻击）并追踪每个数据点来度量。我们计算每个数据点的总移动距离以及连续扰动间距离的相对变化。我们表明，自监督方法学习到的 RM 中扰动会导致大而恒定的尺寸变化，表明其 RM 比全监督方法更平滑。随后我们将这些度量合并为一个指标——表示流形质量度量（RMQM），其中更大值意味着更大且更少变化的步长，并表明 RMQM 与下游任务性能正相关。
引用
@article{arxiv.2205.07477,
title = {Manifold Characteristics That Predict Downstream Task Performance},
author = {Ruan van der Merwe and Gregory Newman and Etienne Barnard},
journal= {arXiv preprint arXiv:2205.07477},
year = {2022}
}
备注
Currently under review