基于增量怀疑高斯过程的野外学习
机器学习
2020-11-03 v1
摘要
从人类监督中学习的能力对于个人助理及人工智能的其他交互式应用至关重要。在野外部署交互式学习器的两个核心挑战是监督的不可靠性和预测任务复杂度的变化。我们研究一个简单但具代表性的设定——野外增量分类,其中监督含噪且类别数量随时间增长。为应对该任务,我们提出以高斯过程(GPs)为核心的怀疑学习的重新设计。怀疑学习是一种近期的交互策略:若机器足够确信某样本被错误标注,则要求标注者重新考虑其反馈。在许多情况下,这往往足以获得干净的监督。我们称此重新设计为 ISGP,其利用高斯过程提供的不确定性估计来更好地分配标注与矛盾查询,尤其在存在噪声时。我们在合成与真实数据上的实验表明,原怀疑学习公式会产生过度自信的模型,在野外可能完全失效,而 ISGP 在不同噪声水平及观察到新类别时均表现良好。
引用
@article{arxiv.2011.00928,
title = {Learning in the Wild with Incremental Skeptical Gaussian Processes},
author = {Andrea Bontempelli and Stefano Teso and Fausto Giunchiglia and Andrea Passerini},
journal= {arXiv preprint arXiv:2011.00928},
year = {2020}
}
备注
7 pages, 3 figures, code: https://gitlab.com/abonte/incremental-skeptical-gp