BatchGFN：用于批量主动学习的生成流网络
机器学习
2023-06-28 v1 机器学习
摘要
我们引入 BatchGFN——一种基于池的主动学习新方法，它使用生成流网络来采样与批量奖励成比例的数据点集合。通过适当的奖励函数来量化获取一个批量的效用，例如批量与模型参数之间的联合互信息，BatchGFN 能够以原则性的方式构建用于主动学习的高度信息性批量。我们展示了在玩具回归问题中，我们的方法能够在推理时以批量中每个点单次前向传播采样到近最优效用的批量。这缓解了批量感知算法的计算复杂度，并消除了寻找批量奖励最大化器的贪心近似的需要。我们还展示了在获取步骤间分摊训练的初步结果，这将使扩展到真实世界任务成为可能。
引用
@article{arxiv.2306.15058,
title = {BatchGFN: Generative Flow Networks for Batch Active Learning},
author = {Shreshth A. Malik and Salem Lahlou and Andrew Jesson and Moksh Jain and Nikolay Malkin and Tristan Deleu and Yoshua Bengio and Yarin Gal},
journal= {arXiv preprint arXiv:2306.15058},
year = {2023}
}
备注
Accepted at the Structured Probabilistic Inference & Generative Modeling workshop, ICML 2023