降低数值精度在 Mondrian 森林中保持分类准确率
机器学习
2021-06-29 v1
摘要
Mondrian 森林是一种强大的数据流分类方法，但其较大的内存占用使其不适合连接对象等低资源平台。我们探索使用降低精度的浮点表示来减少内存消耗，并评估其对分类性能的影响。我们将 OrpailleCC（一个 C++ 数据流算法集合）提供的 Mondrian 森林实现应用于人体活动识别中的两个经典数据集：Recofit 和 Banos 等人数据集。结果表明，树节点所用浮点值的精度可从 64 位降低到 8 位，而 F1 分数无显著差异。在某些情况下，降低精度被证明可改善分类性能，推测是因其正则化效应。我们得出结论：数值精度是 Mondrian 森林中一个相关的超参数，且常用的双精度值未必是获得最优性能所必需的。未来工作将评估这些发现对其他数据流分类器的可推广性。
引用
@article{arxiv.2106.14340,
title = {Reducing numerical precision preserves classification accuracy in Mondrian Forests},
author = {Marc Vicuna and Martin Khannouz and Gregory Kiar and Yohan Chatelain and Tristan Glatard},
journal= {arXiv preprint arXiv:2106.14340},
year = {2021}
}
备注
6 pages, 3 tables, 2 figures. Keywords: numerical precision, memory footprint, Mondrian Forests, human activity, recognition, data streams, supervised classification, floating-point representation