受限强凸函数的流式方法及其在原型选择中的应用
机器学习
2018-07-24 v1 机器学习
摘要
在本文中，我们证明如果优化函数是受限强凸(RSC)且受限光滑(RSM)的——这是弱次模函数的一个丰富子类——那么具有常数因子近似保证的流式算法是可能的。更一般地，我们的结果适用于任何单调弱次模函数且其次模比有上界。这一（正面）结果给出了弱次模函数具有常数因子流式保证的充分条件，鉴于最近针对一般弱次模函数类的负面结果（Elenberg 等，2017），它可能具有特殊意义。我们通过优化合适的 RSC 和 RSM 目标函数，应用我们的流式算法从大型复杂数据集中选取 个代表性元素来创建紧凑概要。上述结果即使在附加约束（如为每个所选元素学习非负权重以表明其重要性，从而具备可解释性）下也成立。我们在两个真实数据集上实证评估了我们的算法：MNIST——一个手写数字数据集，以及 Letters——一个包含以不同字体和风格书写的字母的 UCI 数据集。我们观察到，我们的算法比针对弱次模函数的最先进流式算法快几个数量级，并且我们的主要算法在实践中仍提供同样良好的解。
引用
@article{arxiv.1807.08091,
title = {Streaming Methods for Restricted Strongly Convex Functions with Applications to Prototype Selection},
author = {Karthik S. Gurumoorthy and Amit Dhurandhar},
journal= {arXiv preprint arXiv:1807.08091},
year = {2018}
}