基于神经符号约束的分数扩散模型零样本条件化
机器学习
2024-12-25 v3 人工智能
摘要
基于分数的扩散模型已成为条件与无条件生成的有效方法。然而条件生成要么基于条件模型的特定训练，要么基于分类器引导，即便给定未损坏数据的分类器，也需要训练一个依赖于噪声的分类器。我们提出一种方法，给定预训练的无条件基于分数的生成模型，可在任意逻辑约束下从条件分布中采样，无需额外训练。不同于其他旨在生成有效条件样本的零样本技术，我们的方法设计用于逼近真实条件分布。首先，我们展示如何操控学习到的分数以从依赖于用户定义约束的未归一化分布中采样。然后，我们定义一个灵活且数值稳定的神经符号框架用于编码软逻辑约束。结合这两部分我们得到一个通用但近似的条件采样算法。我们进一步开发了旨在改善近似的有效启发式方法。最后，我们在多种约束类型和数据的条件分布逼近中展示了方法的有效性：表格数据、图像和时间序列。
引用
@article{arxiv.2308.16534,
title = {Zero-Shot Conditioning of Score-Based Diffusion Models by Neuro-Symbolic Constraints},
author = {Davide Scassola and Sebastiano Saccani and Ginevra Carbone and Luca Bortolussi},
journal= {arXiv preprint arXiv:2308.16534},
year = {2024}
}