基于隐式模型与最优传输代价最小化的回归方法

本文研究经典的回归问题，即归纳学习映射 $y=f(x,z)$，其中 $z$ 表示噪声，$f:\mathbb{R}^n\times \mathbb{R}^k \rightarrow \mathbb{R}^m$。近来，条件生成对抗网络（Conditional GAN，CGAN）已被应用于回归，并因其能隐式建模复杂噪声形式的能力，显示出优于高斯过程回归等其他标准方法的优势。然而，当前用于回归的 CGAN 实现采用经典的生成器-判别器架构与极小极大优化方法，该方法因训练不稳定或无法收敛等问题而难以训练，这是众所周知的。本文在隐式建模噪声的回归模型方向上更进一步，提出一种直接优化真实概率分布 $p(y|x)$ 与估计分布 $\hat{p}(y|x)$ 之间最优传输代价的解决方案，且不受极小极大方法相关问题的困扰。在多种合成与真实世界数据集上，我们所提方案取得了最先进的（state-of-the-art，SOTA）结果。本文代码见 "https://github.com/gurdaspuriya/ot_regression"。