中文

在矩形流中的泛化与记忆

机器学习 2026-03-17 v1 计算机视觉与模式识别

摘要

基于 Flow Matching 目标构建的生成模型,特别是 Rectified Flow (RF),已成为高效高保真图像合成的主导范式。然而,尽管现有研究高度重视生成质量和架构规模,但关于 RF 模型记忆训练数据的底层动力学仍鲜有探索。本文系统性地调查了 RF 的记忆行为,通过 Membership Inference Attacks (MIA) 的测试统计量进行分析。我们逐步构建了三个测试统计量,最终形成一个复杂度校准的指标 (Tmc_calT_\text{mc\_cal}),成功将图像空间复杂度从真实记忆信号中解耦。该校准显著提升了攻击性能——将 AUC 提升最高可达 15%,隐私关键的 TPR@1%FPR 指标提升最高可达 45%——建立了首个专为 RF 设计的非平凡 MIA。利用这些细化后的指标,我们发现了一个独特的时间模式:在标准均匀时间训练下,模型对 MIA 的易受性严格在积分中点达到峰值,我们通过网络被迫偏离线性近似进行了论证。最后,我们表明,用对称指数 (U-shaped) 分布取代均匀时间步采样可有效降低对脆弱中间时间步的暴露。广泛的评估在三个数据集上确认,此类时间正则化抑制了记忆,同时保持了生成保真度。

关键词

引用

@article{arxiv.2603.13421,
  title  = {Generalization and Memorization in Rectified Flow},
  author = {Mingxing Rao and Daniel Moyer},
  journal= {arXiv preprint arXiv:2603.13421},
  year   = {2026}
}