AutoCoreset:一种自动实用的核心集构建框架
机器学习
2023-05-23 v1
摘要
核心集(coreset)是输入集的一个微小带权子集,相对于某类查询而言,能紧密近似损失函数。核心集在机器学习中已十分流行,因其在诸多应用中展现出优势。尽管核心集研究是一个活跃领域,但遗憾的是,核心集通常以问题依赖的方式构建:针对每个问题,通常需提出新的核心集构建算法,这一过程可能耗时,或对领域新研究者而言较为困难。即便是通用框架,也要求用户完成额外的(问题相关的)计算或证明。此外,许多问题并不具备(可证明的)小型核心集,限制了其适用性。为此,我们提出一种自动实用的核心集构建框架,仅要求用户提供输入数据与期望的损失函数,无需用户进行任何其他任务相关计算。为此,我们将近似损失函数的问题归约为向量求和近似的一个实例,其中待求和向量是特定查询子集上的损失向量,旨在近似该函数在该子集上的像。我们表明,尽管该子集有限,所得核心集却相当通用。我们还在多种机器学习应用上进行了广泛的实验研究。最后,我们提供了一种“即插即用”风格的实现,提出了一个用户友好系统,可轻松用于将核心集应用于诸多问题。完整开源代码见 \href{https://github.com/alaamaalouf/AutoCoreset}{\text{https://github.com/alaamaalouf/AutoCoreset}}。我们相信这些贡献将推动未来研究并简化核心集的使用与应用。
引用
@article{arxiv.2305.11980,
title = {AutoCoreset: An Automatic Practical Coreset Construction Framework},
author = {Alaa Maalouf and Murad Tukan and Vladimir Braverman and Daniela Rus},
journal= {arXiv preprint arXiv:2305.11980},
year = {2023}
}