风险敏感扩散:利用噪声样本鲁棒优化扩散模型
机器学习
2024-10-04 v3
摘要
扩散模型主要研究图像数据。然而,非图像数据(例如表格数据)在实际应用中也普遍存在,并且由于数据收集阶段的一些不可避免的因素,往往带有噪声,从而降低了扩散模型的生成质量。在本文中,我们考虑了一个新颖的问题设置,其中每个收集到的样本都配有一个指示数据质量的向量:风险向量。这种设置适用于许多涉及噪声数据的场景,我们提出了风险敏感SDE,一种由风险向量参数化的随机微分方程(SDE)来解决这个问题。通过适当的系数,风险敏感SDE可以最小化噪声样本对扩散模型优化的负面影响。我们对高斯和非高斯噪声分布进行了系统研究,提供了风险敏感SDE的解析形式。为了验证我们方法的有效性,我们在多个表格和时间序列数据集上进行了大量实验,表明风险敏感SDE允许对带有噪声样本的扩散模型进行鲁棒优化,并且显著优于以前的基线。
引用
@article{arxiv.2402.02081,
title = {Risk-Sensitive Diffusion: Robustly Optimizing Diffusion Models with Noisy Samples},
author = {Yangming Li and Max Ruiz Luyten and Mihaela van der Schaar},
journal= {arXiv preprint arXiv:2402.02081},
year = {2024}
}
备注
Paper under review