利用信息损失理论工具分析数据选择技术
机器学习
2022-01-21 v4 机器学习
摘要
在本文中,我们提出并阐释了一些用于严格分析训练数据选择方法的新工具。这些工具聚焦于采样数据时发生的基于信息论的损失。我们利用该框架证明了两种方法——设施选址选择(Facility Location Selection)与转导式实验设计(Transductive Experimental Design)——能够降低这些损失。这些旨在作为将信息论深度学习理论(Information Theoretic Deep Learning Theory)应用于数据选择与主动学习领域的可泛化理论示例。两种分析均对其各自的方法提供了深入见解并提升了其可解释性。就转导式实验设计而言,所提供的分析还极大地拓展了该方法的适用范围。
引用
@article{arxiv.1902.09602,
title = {Analyzing Data Selection Techniques with Tools from the Theory of Information Losses},
author = {Brandon Foggo and Nanpeng Yu},
journal= {arXiv preprint arXiv:1902.09602},
year = {2022}
}
备注
This paper has now been published as a conference proceeding in IEEE Big Data 2021