生成模型潜空间中的基于特征插值与时测地线
机器学习
2023-03-14 v3 机器学习
摘要
点之间的插值是一个同时与寻找测地线及生成模型研究相关的问题。在测地线情形下，我们搜索长度最短的曲线，而在生成模型情形下，我们通常在潜空间中进行线性插值。然而，这种插值隐式地利用了高斯分布是单峰的事实。因此，当潜密度非高斯时，插值问题是一个开放问题。本文提出一种通用且统一的插值方法，它同时允许我们在任意密度情形下搜索潜空间中的测地线与插值曲线。我们的结果具有基于所引入的插值曲线质量度量的坚实理论基础。特别地，我们表明最大化曲线的质量度量可等价地理解为对空间上某种黎曼度量的重定义下的测地线搜索。我们在三种重要情形中给出示例。首先，我们展示该方法可轻松应用于流形上测地线的寻找。接着，我们将注意力集中于预训练生成模型中的插值寻找。我们表明我们的模型在任意密度情形下均有效。此外，我们可在由具备给定特征的数据组成的空间子集中进行插值。最后一种情形聚焦于化学化合物空间中的插值寻找。
引用
@article{arxiv.1904.03445,
title = {Feature-Based Interpolation and Geodesics in the Latent Spaces of Generative Models},
author = {Łukasz Struski and Michał Sadowski and Tomasz Danel and Jacek Tabor and Igor T. Podolak},
journal= {arXiv preprint arXiv:1904.03445},
year = {2023}
}