IDK级联：通过学习避免过度思考实现快速深度学习
计算机视觉与模式识别
2018-06-28 v4 机器学习
摘要
深度学习的进展显著提高了预测准确率，但也增加了做出预测的成本。我们推测，对于大多数真实世界输入，深度学习的近期进展所创建的模型在简单输入上有效地“过度思考”。本文重新审视了构建模型级联这一经典问题，其主要利用类别不对称性来降低成本。我们引入了“I Don't Know”(IDK)预测级联框架，这是一个通用框架，用于系统性地组合一组预训练模型以加速推理而不损失预测精度。我们提出了两种基于搜索的级联构建方法，以及该框架内一个新的成本感知目标。所提出的IDK级联框架可轻松应用于现有模型服务系统，无需额外的模型重训练。我们在一系列基准上评估了所提技术，以证明该框架的有效性。
引用
@article{arxiv.1706.00885,
title = {IDK Cascades: Fast Deep Learning by Learning not to Overthink},
author = {Xin Wang and Yujia Luo and Daniel Crankshaw and Alexey Tumanov and Fisher Yu and Joseph E. Gonzalez},
journal= {arXiv preprint arXiv:1706.00885},
year = {2018}
}
备注
UAI 2018 camera ready