勿忽视失配：无监督表示学习中目标函数失配的探究

为无监督表示学习方法寻找通用评估指标是一个具有挑战性的开放研究问题，近来由于对无监督方法兴趣日增而变得愈发必要。尽管这些方法承诺有益的表示特性，当前多数方法仍存在目标函数失配问题。该失配指：当无监督 pretext 任务学习过久时——尤其当两任务均不适定时——所需目标任务的性能可能下降。本文基于广泛使用的线性评估协议，定义新的通用评估指标，以定量刻画目标函数失配及更一般的指标失配。我们在多种 pretext 与目标任务上讨论了所提协议的可用性与稳定性，并通过大量实验研究失配。由此，我们揭示了目标函数失配对 pretext 模型表示规模、目标模型复杂度、pretext 与目标增强以及 pretext 与目标任务类型的依赖关系。实验中我们发现，在许多设置下目标函数失配使 Cifar10、Cifar100 与 PCam 的性能降低约 0.1–5.0%，而在 3dshapes 数据集的极端情形中高达约 25–59%。