基于朗之万动力学的自回归模型并行灵活采样
机器学习
2021-12-20 v2 声音
音频与语音处理
机器学习
摘要
本文提出了一种从自回归模型中采样的替代方法。自回归模型通常根据模型定义的转移动态按顺序采样。相反，我们提出了一种采样过程，其以白噪声初始化序列，并遵循由序列全局对数似然上的朗之万动力学定义的马尔可夫链。该方法使采样过程并行化，并推广到条件采样。使用自回归模型作为贝叶斯先验，我们可以利用条件似然或约束来引导生成模型的输出。我们将这些技术应用于视觉和音频领域的自回归模型，在音频源分离、超分辨率和修复方面取得了具有竞争力的结果。
引用
@article{arxiv.2105.08164,
title = {Parallel and Flexible Sampling from Autoregressive Models via Langevin Dynamics},
author = {Vivek Jayaram and John Thickstun},
journal= {arXiv preprint arXiv:2105.08164},
year = {2021}
}
备注
16 pages, 7 figures, ICML 2021