用于分类和异常检测的共形化半监督随机森林
机器学习
2024-03-01 v2
摘要
随机森林分类器是一种广泛使用的现成分类工具，与其他标准分类器一样，它假设训练样本和测试样本来自相同的分布。然而，在医疗诊断和网络攻击检测等安全关键场景中，训练集和测试集之间的差异，包括可能出现训练期间未见过的新颖异常样本，会带来重大挑战。为了解决这个问题，我们引入了共形化半监督随机森林（CSForest），它将共形化技术 Jackknife+aB 与半监督树集成相结合，以构建一个集合值预测 。CSForest 不是在训练分布上进行优化，而是利用未标记的测试样本来提高准确性，并通过生成空集来标记未见过的异常值。理论上，我们证明了 CSForest 在测试数据中存在任意标签偏移的情况下，能够覆盖先前观察到的内点类别的真实标签。我们将 CSForest 与最先进的方法在使用合成示例和各种真实世界数据集、测试域中存在不同类型分布变化的情况下进行了比较。我们的结果突显了 CSForest 对内点的有效预测及其检测测试数据中特有异常样本的能力。此外，随着训练集和测试集大小的变化，CSForest 始终表现出良好的性能。CSForest 的代码可在 https://github.com/yujinhan98/CSForest 获取。
引用
@article{arxiv.2302.02237,
title = {Conformalized Semi-supervised Random Forest for Classification and Abnormality Detection},
author = {Yujin Han and Mingwenchan Xu and Leying Guan},
journal= {arXiv preprint arXiv:2302.02237},
year = {2024}
}