绿色加速 Hoeffding 树
机器学习
2022-05-09 v1 硬件体系结构
摘要
最先进的机器学习解决方案主要关注创建高精度的模型,而不对硬件资源施加约束。流挖掘算法被设计用于在资源受限设备上运行,因此关注低功耗、低能耗和内存高效至关重要。Hoeffding 树算法能够创建节能模型,但代价是与其集成模型对应物相比树的精度较低。另一方面,Hoeffding 树的集成创建了高精度的树森林,但平均多消耗五倍能量。试图获得与 Hoeffding 树集成相似结果的扩展是极快决策树(EFDT)。本文提出绿色加速 Hoeffding 树(GAHT)算法,它是 EFDT 算法的扩展,具有更低的能耗与内存占用以及相同(或在某些数据集上更高)的精度水平。GAHT 基于每个特定叶子上实例数量的分布,为每个节点设置独立的分裂准则来生长树。结果表明,GAHT 能够与 EFDT 和 Hoeffding 树集成相比达到同样具有竞争力的精度结果,同时将能耗降低多达 70%。
引用
@article{arxiv.2205.03184,
title = {Green Accelerated Hoeffding Tree},
author = {Eva Garcia-Martin and Albert Bifet and Niklas Lavesson and Rikard König and Henrik Linusson},
journal= {arXiv preprint arXiv:2205.03184},
year = {2022}
}
备注
Presented as a poster in the TinyML 2021 Research Symposium