通过富集查询的有界内存主动学习
机器学习
2021-02-11 v1 机器学习
摘要
易于获取的未标记数据的爆炸式增长引发了人们对主动学习的日益关注，这是一种数据饥渴的学习算法自适应选择信息性样本以降低极其昂贵的标注成本范式。不幸的是，在标准的最坏情况学习模型中，主动设定往往相比非自适应算法并无改善。为应对此问题，近期一系列工作考虑了一种学习者可提出超越标签的富集查询的模型。尽管此类模型在大幅降低标签成本方面取得了成功，但它们往往以需要大量内存为代价。在本工作中，我们研究哪些分类器族可在有界内存中学习。为此，我们引入了一种新颖的富集查询主动学习的流式变体，以及一种称为无损样本压缩的自然组合参数，该参数不仅足以以有界内存学习，而且能以查询最优和计算高效的方式进行。最后，我们给出了三个基本分类器族的示例，在获得基本富集查询时具有小而易于计算的无损压缩方案：轴对齐矩形、决策树和二维半空间。
引用
@article{arxiv.2102.05047,
title = {Bounded Memory Active Learning through Enriched Queries},
author = {Max Hopkins and Daniel Kane and Shachar Lovett and Michal Moshkovitz},
journal= {arXiv preprint arXiv:2102.05047},
year = {2021}
}