非参数函数的摊销主动学习
机器学习
2025-01-13 v2
摘要
主动学习 (AL) 是一种顺序学习方案，旨在选择最具信息量的数据。AL 减少数据消耗，避免对大量数据标注的成本。然而，AL 为每个选择都训练模型并求解获取优化问题， 当模型训练或获取优化困难时，这会变得昂贵。在本文中，我们关注非参数函数学习中的主动学习，其中经典的高斯过程 (GP) 方法因其平方级时间复杂度而受限。我们提出一种摊销 AL 方法，其中由神经网络提出新数据，而该网络在没有真实数据的情况下进行训练。我们的方法避免了重复模型训练，在 AL 部署期间无需进行获取优化。我们 (i) 利用 GP 作为函数先验构建 AL 模拟器， (ii) 训练能够从模拟中零样本泛化到非参数函数学习问题的 AL 策略， (iii) 实现实时数据选择并与耗时的基准方法相当的学习性能。
引用
@article{arxiv.2407.17992,
title = {Amortized Active Learning for Nonparametric Functions},
author = {Cen-You Li and Marc Toussaint and Barbara Rakitsch and Christoph Zimmer},
journal= {arXiv preprint arXiv:2407.17992},
year = {2025}
}
备注
Accepted for publication at ECML-PKDD 2024 Workshop & Tutorial on Interactive Adaptive Learning