在矩形流中的泛化与记忆
机器学习
2026-03-17 v1 计算机视觉与模式识别
摘要
基于 Flow Matching 目标构建的生成模型,特别是 Rectified Flow (RF),已成为高效高保真图像合成的主导范式。然而,尽管现有研究高度重视生成质量和架构规模,但关于 RF 模型记忆训练数据的底层动力学仍鲜有探索。本文系统性地调查了 RF 的记忆行为,通过 Membership Inference Attacks (MIA) 的测试统计量进行分析。我们逐步构建了三个测试统计量,最终形成一个复杂度校准的指标 (),成功将图像空间复杂度从真实记忆信号中解耦。该校准显著提升了攻击性能——将 AUC 提升最高可达 15%,隐私关键的 TPR@1%FPR 指标提升最高可达 45%——建立了首个专为 RF 设计的非平凡 MIA。利用这些细化后的指标,我们发现了一个独特的时间模式:在标准均匀时间训练下,模型对 MIA 的易受性严格在积分中点达到峰值,我们通过网络被迫偏离线性近似进行了论证。最后,我们表明,用对称指数 (U-shaped) 分布取代均匀时间步采样可有效降低对脆弱中间时间步的暴露。广泛的评估在三个数据集上确认,此类时间正则化抑制了记忆,同时保持了生成保真度。
引用
@article{arxiv.2603.13421,
title = {Generalization and Memorization in Rectified Flow},
author = {Mingxing Rao and Daniel Moyer},
journal= {arXiv preprint arXiv:2603.13421},
year = {2026}
}