UnfoldML:面向多阶段分类的成本感知与不确定性驱动的动态二维预测
机器学习
2022-10-31 v2
摘要
机器学习(ML)研究一直专注于最大化预测任务的准确性。然而,ML 模型日益复杂、资源密集,且在资源受限环境中部署成本更高。这些问题在具有“先于发生”关系的渐进式过渡阶段进行顺序分类的预测任务中尤为突出。我们认为,可以将一个通常使用所有数据为所有阶段训练的单一多类分类器“展开”为一系列单阶段分类器。每个单阶段分类器可以从较廉价到较昂贵的二分类器逐步级联,这些二分类器仅使用该阶段所需的数据模态或特征进行训练。UnfoldML 是一个面向多阶段分类的成本感知与不确定性驱动的动态二维预测流水线,它能够实现:(1)在准确率/成本权衡空间中导航;(2)将推理的时空成本降低数个数量级;(3)对后续阶段进行早期预测。UnfoldML 在临床环境中实现了数个数量级的成本优化,同时实时检测多阶段疾病发展。其准确率与性能最高的多类基线相差在 0.1% 以内,同时节省了近 20 倍的推理时空成本,并实现了更早(3.5 小时)的疾病发作预测。我们还展示了 UnfoldML 可泛化至图像分类,它可以根据图像的不同抽象级别预测不同级别的标签(从粗粒度到细粒度),节省近 5 倍成本,而准确率仅降低 0.4%。
引用
@article{arxiv.2210.15056,
title = {UnfoldML: Cost-Aware and Uncertainty-Based Dynamic 2D Prediction for Multi-Stage Classification},
author = {Yanbo Xu and Alind Khare and Glenn Matlin and Monish Ramadoss and Rishikesan Kamaleswaran and Chao Zhang and Alexey Tumanov},
journal= {arXiv preprint arXiv:2210.15056},
year = {2022}
}
备注
To be published in NeurIPS'22