中文

抗损坏的主动学习

机器学习 2021-06-22 v1 人工智能 机器学习

摘要

我们在未知对抗性标签损坏下的基于流的二分类主动学习进行了理论研究。在此设定中,学习器观察样本之前的每一时刻,对手决定是否损坏标签。首先,我们展示在良性损坏设定(包含误设定情形作为特例)下,通过对假设消除阈值稍作放大,经典的RobustCAL框架可以(令人惊讶地)达到与非损坏设定下几乎相同的标签复杂度保证。然而,该算法在一般损坏设定中可能失效。为解决此缺陷,我们提出一种新算法,其在不对损坏存在作任何假设下可证明正确。此外,该算法在非损坏设定下享有极小极大标签复杂度(由RobustCAL达到),且在损坏设定下仅需O~(Ctotal)\tilde{\mathcal{O}}(C_{\mathrm{total}})额外标签即可达到O(ε+Ctotaln)\mathcal{O}(\varepsilon + \frac{C_{\mathrm{total}}}{n}),其中ε\varepsilon为目标精度,CtotalC_{\mathrm{total}}为损坏总数,nn为未标记样本总数。

关键词

引用

@article{arxiv.2106.11220,
  title  = {Corruption Robust Active Learning},
  author = {Yifang Chen and Simon S. Du and Kevin Jamieson},
  journal= {arXiv preprint arXiv:2106.11220},
  year   = {2021}
}