ActMAD：用于测试时训练的激活匹配分布对齐方法
计算机视觉与模式识别
2023-03-24 v2
摘要
测试时训练（TTT）是一种通过使已训练模型适应测试时出现的分布偏移来处理分布外（OOD）数据的方法。我们提出通过激活匹配（ActMAD）执行该适应：我们分析模型的激活，并将 OOD 测试数据的激活统计与训练数据的激活统计对齐。与现有方法建模特征提取器最末层整个通道的分布不同，我们对网络中多层每个特征的分布进行建模。这带来了更细粒度的监督，并使 ActMAD 在 CIFAR-100C 和 Imagenet-C 上达到 SOTA 性能。ActMAD 还是架构与任务无关的，这让我们超越图像分类，在 KITTI-Fog 上评估 KITTI 训练的目标检测器时比先前方法提升 15.4%。我们的实验强调，ActMAD 可应用于真实场景中的在线适应，仅需少量数据即可达到其完整性能。
引用
@article{arxiv.2211.12870,
title = {ActMAD: Activation Matching to Align Distributions for Test-Time-Training},
author = {Muhammad Jehanzeb Mirza and Pol Jané Soneira and Wei Lin and Mateusz Kozinski and Horst Possegger and Horst Bischof},
journal= {arXiv preprint arXiv:2211.12870},
year = {2023}
}
备注
CVPR 2023 - Project Page: https://jmiemirza.github.io/ActMAD/