支持条件相关的流匹配等价于核平滑
机器学习
2026-05-14 v1 机器学习
摘要
生成模型通常通过交叉注意力在小型示例集合上进行条件化。我们在高斯最优传输路径下表明，离散支持集诱导的精确速度场是一个 Nadaraya--Watson 核平滑器，其带宽随流时间减小，从早期步骤的宽泛平均到晚期步骤的最近邻。单个高斯核注意力头恰好计算该速度场，将交叉注意力条件化连接到经典核理论中。该理论预测了三个失败情形：高维下核的最近邻崩溃、各向同性核与数据几何之间的不匹配，以及非参数估计的支持不足。在高斯混合、球面壳层和 DINOv2 ImageNet 特征上实验表明，学习的条件化在恰好这三个情形下都有所改善，IP-Adapter 的交叉注意力在实践中实现了近似的 NW 平滑。
关键词
引用
@article{arxiv.2605.13386,
title = {Support-Conditioned Flow Matching Is Kernel Smoothing},
author = {Daniel Matsui Smola},
journal= {arXiv preprint arXiv:2605.13386},
year = {2026}
}
备注
Submitted to NeurIPS 2026. 18 pages, 10 figures, 1 table. Code at https://github.com/BaroqueObama/kernel-flow-matching-code