面向协变量偏移的测试时批统计量校准
计算机视觉与模式识别
2021-10-11 v1 人工智能
摘要
深度神经网络在应用于未知环境时,由于协变量偏移而明显退化。诸如域适应之类的传统方法需要预收集的目标数据进行迭代训练,这在实际应用中不切实际。在本文中,我们提出在推理期间将深度模型适应到新环境。此前的解决方案是测试时归一化,其用目标批统计量替换 BN 层中的源统计量。然而,我们表明测试时归一化可能由于目标批统计量与源参数之间的不匹配而潜在地破坏判别结构。为此,我们提出一个通用公式 -BN,通过混合源统计量和目标统计量来校准批统计量,以同时缓解域偏移并保留判别结构。基于 -BN,我们进一步提出一个新的损失函数,以形成一个统一的测试时适应框架 Core,其执行成对类别相关性在线优化。大量实验表明,我们的方法在来自三个主题的共十二个数据集上取得了最先进的性能,包括针对 corruption 的模型鲁棒性、图像分类和语义分割上的域泛化。特别地,我们的 -BN 在 GTA5 Cityscapes 上无需任何训练即提升 28.4\% 到 43.9\%,甚至优于最新的无源域适应方法。
引用
@article{arxiv.2110.04065,
title = {Test-time Batch Statistics Calibration for Covariate Shift},
author = {Fuming You and Jingjing Li and Zhou Zhao},
journal= {arXiv preprint arXiv:2110.04065},
year = {2021}
}