中文

基于 JSD 上界的协作式分布对齐

机器学习 2022-11-02 v2 人工智能

摘要

无监督分布对齐估计一种变换,该变换在仅给定各分布样本的条件下将两个以上源分布映射到一个共享的对齐分布。该任务具有诸多应用,包括生成建模、无监督域自适应与社会感知学习。多数先前工作采用对抗学习(即极小极大优化),其优化与评估均具挑战性。少数近期工作探索了非对抗的基于流(即可逆)的方法,但它们缺乏统一视角且难以高效对齐多个分布。因此,我们提出在单一非对抗框架下统一并推广先前的基于流的方法,并证明该框架等价于最小化 Jensen-Shannon 散度(JSD)的一个上界。重要的是,我们的问题可归约为极小-极小,即协作式问题,并能为无监督分布对齐提供自然的评估度量。我们在模拟与真实世界数据集上展示了实证结果,以证明我们所提方法的优势。代码见 https://github.com/inouye-lab/alignment-upper-bound。

关键词

引用

@article{arxiv.2207.02286,
  title  = {Cooperative Distribution Alignment via JSD Upper Bound},
  author = {Wonwoong Cho and Ziyu Gong and David I. Inouye},
  journal= {arXiv preprint arXiv:2207.02286},
  year   = {2022}
}

备注

Accepted for publication in Advances in Neural Information Processing Systems 36 (NeurIPS 2022)