Active-LATHE:一种用于提升同构伊辛树学习错误指数的主动学习算法
机器学习
2021-10-29 v2 机器学习
摘要
Chow-Liu 算法(IEEE Trans. Inform. Theory, 1968)一直是从独立同分布采样数据向量中学习树结构图模型的中坚方法。其理论性质已被充分研究并很好理解。在本文中,我们关注一类 arguably 更为基础的树,即每条构成边的节点对具有相同相关性 的{\em 同构}树。我们探讨在允许{\em 主动学习}或{\em 节点/变量的主动采样}时,是否能够进一步降低学习同构树模型结构的错误概率。我们的度量标准是{\em 错误指数},它量化了错误概率随数据样本数量增加而呈指数衰减的速率。初看之下,错误指数的提升似乎不可能,因为所有边在统计上完全相同。我们设计并分析了同构边树主动学习算法(Active Learning Algorithm for Trees with Homogeneous Edge, Active-LATHE),当 至少为 时,该算法惊人地将错误指数提升了至少 40%。对于 的所有其他取值,我们也观察到相应但较温和的错误指数提升。我们的分析关键在于审慎利用样本微小但可检测的统计变异,将更多数据分配给图中我们不太确信正确的部分。
引用
@article{arxiv.2110.14341,
title = {Active-LATHE: An Active Learning Algorithm for Boosting the Error Exponent for Learning Homogeneous Ising Trees},
author = {Fengzhuo Zhang and Anshoo Tandon and Vincent Y. F. Tan},
journal= {arXiv preprint arXiv:2110.14341},
year = {2021}
}