中文

FREEDOM:面向无目标标签、无源数据与无域信息的多源域自适应无监督个性化方法

机器学习 2023-07-07 v1 人工智能

摘要

从服务的角度来看,多源域自适应(MSDA)是一种有前景的场景,可将已部署的模型适配到客户端的数据集。它能够在无目标标签的情况下提供自适应,并支持源数据集由多个域构建的情况。然而,这是不切实际的,因为其训练严重依赖于多源数据集的先验域信息——即存在多少个域以及每个数据样本的域标签。此外,MSDA 需要同时(在物理上)拥有源数据集和目标数据集,这会导致客户端设备上的存储限制,或通过向服务器传输客户端数据而引发数据隐私问题。针对从服务提供商视角出发的更实际的模型自适应场景,我们放宽这些约束并提出一种新颖的三无域自适应问题场景,即 TFDA,其中 1)目标标签、2)源数据集,以及最为关键的 3)源域信息(域标签+域数量)均不可用。在该问题场景下,我们提出一种称为 FREEDOM 的实用自适应框架。它利用生成模型的能力,将数据解耦为类别与风格两个方面,其中风格被定义为来自源数据的与类别无关的信息,并采用非参数贝叶斯方法进行设计。在自适应阶段,FREEDOM 旨在匹配源类别分布与目标类别分布,其理念是即便风格不同,类别分布仍保持一致;此后,仅将分类模型的一部分部署为个性化网络。结果表明,即便没有域信息,FREEDOM 仍能达到最先进或可比的性能,且在目标侧的最终模型规模减小,与源域数量无关。

关键词

引用

@article{arxiv.2307.02493,
  title  = {FREEDOM: Target Label & Source Data & Domain Information-Free Multi-Source Domain Adaptation for Unsupervised Personalization},
  author = {Eunju Yang and Gyusang Cho and Chan-Hyun Youn},
  journal= {arXiv preprint arXiv:2307.02493},
  year   = {2023}
}