中文

面向任意条件化的后验匹配

机器学习 2022-11-15 v4 机器学习

摘要

任意条件化是无监督学习中的一个重要问题,其中我们试图对潜藏于某些数据下的条件密度 p(xuxo)p(\mathbf{x}_u \mid \mathbf{x}_o) 进行建模,针对所有不相交子集 o,u{1,,d}o, u \subset \{1, \dots , d\}。然而,绝大多数密度估计仅关注对联合分布 p(x)p(\mathbf{x}) 建模,其中特征之间的重要条件依赖关系是不透明的。我们提出了一个简单而通用的框架,称为后验匹配(Posterior Matching),它使变分自编码器(VAE)能够执行任意条件化,而无需修改 VAE 本身。后验匹配适用于众多现有的基于 VAE 的联合密度估计方法,从而规避了先前任意条件化方法所需的专门模型。我们发现,在多种任务及各类 VAE(例如离散、层次化、VaDE)下,后验匹配可与当前最先进方法媲美或更优。

关键词

引用

@article{arxiv.2201.12414,
  title  = {Posterior Matching for Arbitrary Conditioning},
  author = {Ryan R. Strauss and Junier B. Oliva},
  journal= {arXiv preprint arXiv:2201.12414},
  year   = {2022}
}

备注

Accepted at NeurIPS 2022