具有近正交基的函数族下主动学习的查询复杂度
机器学习
2023-06-07 v1
摘要
许多机器学习算法需要大量标注数据才能给出最先进的结果。在医疗诊断和欺诈检测等应用中，尽管存在丰富的未标注数据，但由专家、实验或仿真进行标注代价高昂。主动学习算法旨在减少所需标注数据点数量，同时保持性能。对于线性规划和 -范数回归等许多凸优化问题，已有达到特定精度所需标签数量的理论界。我们称之为主动学习的查询复杂度。然而，当今的主动学习算法要求所学习的底层函数具有正交基。例如，将主动学习应用于线性回归时，要求是目标函数是一组正交线性函数的线性组合，主动学习可求出这些线性函数的系数。我们给出一个理论结果表明，主动学习不需要正交基，而仅需近正交基。我们提供了近正交基函数族及其实例对应的理论证明，以及其与算法高效的主动学习框架相关的应用。
引用
@article{arxiv.2306.03356,
title = {Query Complexity of Active Learning for Function Family With Nearly Orthogonal Basis},
author = {Xiang Chen and Zhao Song and Baocheng Sun and Junze Yin and Danyang Zhuo},
journal= {arXiv preprint arXiv:2306.03356},
year = {2023}
}