基于动态加权的自训练:提高渐进域适应的鲁棒性
机器学习
2025-10-17 v1 人工智能
计算机视觉与模式识别
摘要
本文提出了一种新方法,称为基于动态加权的自训练 (STDW),旨在通过解决从源域平滑迁移知识到目标域的挑战,提高渐进域适应 (GDA) 的鲁棒性。传统 GDA 方法通过中间域和自训练来缓解域迁移,但常常 suffer于知识迁移效率低或中间数据不完整。我们的 approach 引入一种动态加权机制,在训练期间自适应地平衡源域和目标域的损失贡献。具体而言,我们设计了由随时间变化的超参数 (从 0 逐渐变为 1)控制的优化框架,该参数控制域特定学习的强度,并确保适应稳定。该方法利用自训练生成伪标签,并优化加权目标函数以进行迭代模型更新,保持跨中间域的鲁棒性。在旋转 MNIST、色彩偏移 MNIST、肖像数据集和 Cover Type 数据集上的实验表明,STDW 在已有基准方法上取得更好表现。消融研究进一步验证了 动态调度在实现渐进适应方面发挥关键作用,确认其在减少域偏差和提高泛化性方面的有效性。本工作提供了理论见解和实用框架,适用于动态真实场景。代码可在 https://github.com/Dramwig/STDW 获取。
引用
@article{arxiv.2510.13864,
title = {Self-Training with Dynamic Weighting for Robust Gradual Domain Adaptation},
author = {Zixi Wang and Yushe Cao and Yubo Huang and Jinzhu Wei and Jingzehua Xu and Shuai Zhang and Xin Lai},
journal= {arXiv preprint arXiv:2510.13864},
year = {2025}
}
备注
It had formerly appeared as arXiv:2501.19159v2 in error. Accepted by NIPS 25