黑盒源模型的无监督域适应
机器学习
2021-03-30 v2 计算机视觉与模式识别
摘要
无监督域适应（UDA）旨在通过将知识从有标签的源域迁移，来为无标签数据的目标域学习模型。在传统 UDA 设定中，假定有标签的源数据可用于适应。由于对数据隐私的日益关注，无源 UDA 作为一种新的 UDA 设定受到高度重视，其中仅假定有一个训练好的源模型可用，而有标签的源数据保持私有。然而，训练好的源模型在实践中也可能不可用，因为源模型可能具有商业价值，且暴露源模型会给源域带来风险，例如模型误用和白盒攻击问题。在本文工作中，我们研究了一种微妙不同的设定，称为黑盒无监督域适应（BUDA），其中目标域仅能访问源模型的应用程序编程接口；换言之，源模型本身保持为黑盒模型。为应对 BUDA，我们提出了一种简单而有效的方法，称为带噪标签的迭代学习（IterLNL）。以黑盒模型作为噪标工具，IterLNL 迭代地进行噪标与带噪标签学习（LNL）。为便于在 BUDA 中实施 LNL，我们从无标签目标数据的模型预测中估计噪声率，并提出按类别采样以应对各类别间不平衡的标签噪声。在基准数据集上的实验显示了 IterLNL 的有效性。在既无源数据也无源模型的情况下，IterLNL 表现与充分利用有标签源数据的传统 UDA 方法相当。
引用
@article{arxiv.2101.02839,
title = {Unsupervised Domain Adaptation of Black-Box Source Models},
author = {Haojian Zhang and Yabin Zhang and Kui Jia and Lei Zhang},
journal= {arXiv preprint arXiv:2101.02839},
year = {2021}
}