预训练网络在域偏移下的少样本自适应
计算机视觉与模式识别
2022-10-25 v3 机器学习
摘要
当源（训练）数据与目标（测试）数据之间存在域偏移时，深度网络的性能容易下降。近期的测试时自适应方法利用流式数据更新部署在新目标环境中的预训练源模型的批归一化层，以减轻这种性能下降。尽管此类方法无需先收集大量目标域数据集即可即时自适应，但其性能依赖于流式条件，如小批量大小与类别分布，而这些条件在实践中可能不可预测。在本工作中，我们提出一种少样本域自适应框架，以应对数据高效自适应的实际挑战。具体而言，我们提出在目标域少量支持集监督下，对预训练源模型中的特征归一化统计量进行约束优化。我们的方法易于实现，在分类任务中每类仅需一个样本即可提升源模型性能。在 5 个跨域分类和 4 个语义分割数据集上的大量实验表明，我们的方法比测试时自适应获得更准确可靠的性能，且不受流式条件约束。
引用
@article{arxiv.2205.15234,
title = {Few-Shot Adaptation of Pre-Trained Networks for Domain Shift},
author = {Wenyu Zhang and Li Shen and Wanyue Zhang and Chuan-Sheng Foo},
journal= {arXiv preprint arXiv:2205.15234},
year = {2022}
}
备注
Accepted to IJCAI 2022