基于新型 DPP 核的 SOTA 小批量：离散化、小波与粗糙目标
机器学习
2026-05-14 v1 机器学习
概率论
摘要
行列式点过程（DPP）已成为生成高效小批量、核心集及其他精简数据集表示的基于核函数的替代方案。尽管已展示了理论基础和鼎舞实证性能，但当前 DPP 基方法存在两个挑战：其一是需要具备特定方差缩减性质的 DPP 族，通常在连续空间中构建，已知实例稀少；其二是需要对给定数据集上构建离散 DPP，以继承此类方差缩减。本文通过推进 DPP 作为机器学习抽样工具箱的计划，在这两个方面取得进展。首先，我们提出基于小波的连续空间 DPP，具有优于现有最佳率的准确性保证；其次，我们引入一种通用方法，将此类连续 DPP 转换为离散核，适用于小批量和核心集构建等抽样任务。该转换机制同时保持所需方差衰减，并揭示离散核的低秩分解，使对相应 DPP 的采样计算廉价。此外，我们扩大了通过 DPP 基方法提高适用的 ML 任务范围，包括任意低正则性的目标函数，并提供显式适应该正则性的速率保证。
引用
@article{arxiv.2605.13127,
title = {State-of-art minibatches via novel DPP kernels: discretization, wavelets, and rough objectives},
author = {Hoang-Son Tran and Pranav Gupta and Rémi Bardenet and Subhroshekhar Ghosh},
journal= {arXiv preprint arXiv:2605.13127},
year = {2026}
}
备注
52 pages