中文

基于知识转移的联邦半监督域自适应

机器学习 2022-07-27 v2

摘要

鉴于机器学习环境的快速变化与数据标注的高成本,当源域的标注数据与目标域的部分标注数据在统计上不同时,半监督域自适应(SSDA)就显得必不可少。大多数先前的SSDA研究是集中式进行的,需要同时访问源域和目标域数据。然而,当今许多领域的数据由分布式终端设备上生成。出于隐私考虑,数据可能在本地存储且无法共享,导致现有SSDA研究失效。本文提出一种在多个分布式保密数据集上实现SSDA的创新方法,命名为联邦半监督域自适应(FSSDA)。FSSDA基于策略设计的知识蒸馏技术将SSDA与联邦学习相融合,并通过并行执行源域和目标域训练来提升其效率。此外,FSSDA通过恰当选取一个关键参数(即模仿参数)来控制跨域转移的知识量。进一步,所提出的FSSDA可有效推广至多源域自适应场景。我们进行了大量实验以证明FSSDA设计的有效性与高效性。

关键词

引用

@article{arxiv.2207.10727,
  title  = {Federated Semi-Supervised Domain Adaptation via Knowledge Transfer},
  author = {Madhureeta Das and Xianhao Chen and Xiaoyong Yuan and Lan Zhang},
  journal= {arXiv preprint arXiv:2207.10727},
  year   = {2022}
}

备注

8 pages, 5 figures