无参数在线测试时自适应

训练最先进的视觉模型对研究人员与从业者而言已变得过于昂贵。出于可及性与资源复用的考虑，将这些模型适配至多种下游场景十分重要。一个有趣且实用的范式是在线测试时自适应：训练数据不可访问，测试分布无标注数据可用，且自适应只能在测试时于少量样本上进行。本文中，我们考察了多种预训练模型在若干真实场景下的测试时自适应方法表现，显著扩展了它们原本的评估方式。我们表明，这些方法仅在狭义定义的实验设定中表现良好，当其超参数未针对所测试场景选取时，有时会灾难性失效。受测试时最终遭遇条件固有不确定性的驱动，我们提出一种尤为“保守”的方法，以拉普拉斯调整最大似然估计（LAME）目标应对该问题。通过适配模型输出（而非其参数），并以高效凹凸过程求解目标，我们的方法在跨场景平均准确率上优于现有方法，同时明显更快且内存占用更低。代码见 https://github.com/fiveai/LAME。