监督式离群值迁移学习中的紧致速率
机器学习
2023-10-10 v1
摘要
学习准确的离群检测决策规则的一个关键障碍是离群数据的稀缺。因此，从业者经常求助于使用相似但不完美的离群数据，从中他们可能将信息迁移到目标离群检测任务。尽管迁移学习方法在离群检测中近期取得了经验性成功，但关于何时以及如何将知识从源离群检测任务迁移到目标任务的基本理解仍然难以捉摸。在这项工作中，我们采用 Neyman-Pearson 分类的传统框架——它形式化了监督式离群检测——并附加假设人们可以访问某些相关但不完美的离群数据。我们的主要结果如下：我们首先在一种差异度量下确定了该问题的信息论极限，该度量扩展了传统平衡分类中的某些现有概念；有趣的是，与平衡分类不同，看似非常不相似的源也能提供关于目标的很多信息，从而导致快速迁移。然后我们表明，原则上，这些信息论极限可通过自适应过程实现，即无需关于源和目标离群分布之间差异的先验信息的过程。
引用
@article{arxiv.2310.04686,
title = {Tight Rates in Supervised Outlier Transfer Learning},
author = {Mohammadreza M. Kalan and Samory Kpotufe},
journal= {arXiv preprint arXiv:2310.04686},
year = {2023}
}