缓解主动学习中的采样偏差并提升鲁棒性
机器学习
2021-09-15 v1
摘要
本文提出简单高效的方法，在主动学习中缓解采样偏差，同时实现最先进的准确率和模型鲁棒性。我们引入监督对比主动学习，在监督设定下利用对比损失进行主动学习。我们提出一种无偏查询策略，通过我们的方法——监督对比主动学习（SCAL）和深度特征建模（DFM）——选择具有多样特征表示的 informative 数据样本。我们凭经验证明，所提方法减少采样偏差，在主动学习设定中实现最先进的准确率和模型校准，且查询计算比基于分歧的贝叶斯主动学习快26倍，比CoreSet快11倍。所提SCAL方法在数据集偏移和分布外鲁棒性上大幅优于现有方法。
引用
@article{arxiv.2109.06321,
title = {Mitigating Sampling Bias and Improving Robustness in Active Learning},
author = {Ranganath Krishnan and Alok Sinha and Nilesh Ahuja and Mahesh Subedar and Omesh Tickoo and Ravi Iyer},
journal= {arXiv preprint arXiv:2109.06321},
year = {2021}
}
备注
Human in the Loop Learning workshop at International Conference on Machine Learning (ICML 2021)