基于委员会查询主动学习中的鲁棒散度方法
机器学习
2022-11-21 v1 机器学习
摘要
主动学习是一种广泛应用于各类高测量成本问题的方法论。在主动学习中,下一个待测量对象由采集函数选出,并依次进行测量。委员会查询是一种知名的采集函数。在传统方法中,委员会分歧由 Kullback–Leibler 散度量化。本文中,分歧的度量由 Bregman 散度(其以 Kullback–Leibler 散度为特例)与对偶 -幂散度定义。作为 Bregman 散度的一个特定类,考虑了 -散度。通过推导影响函数,我们表明所提出的采用 -散度与对偶 -幂散度的方法比以 Kullback–Leibler 散度定义分歧度量的传统方法更为鲁棒。实验结果表明,所提方法表现与传统方法相当或优于传统方法。
引用
@article{arxiv.2211.10013,
title = {Active Learning by Query by Committee with Robust Divergences},
author = {Hideitsu Hino and Shinto Eguchi},
journal= {arXiv preprint arXiv:2211.10013},
year = {2022}
}