中文

RDeepSense:具有不确定性估计的可靠深度移动计算模型

机器学习 2017-09-12 v1 网络与互联网体系结构

摘要

深度学习的近期进展带来了各种应用前所未有的成就,有可能为广泛的移动和普适应用带来更高智能。尽管现有研究已证明在移动和嵌入式设备上运行深度神经网络推理操作的有效性和可行性,但它们忽视了移动计算模型的可靠性。可靠性度量如预测不确定性估计是提高决策精度和用户体验的关键因素。本工作中,我们提出RDeepSense,首个为资源受限移动和嵌入式设备提供良好校准不确定性估计的深度学习模型。RDeepSense通过采用可调适的恰当评分规则作为训练准则,并采用dropout作为隐式贝叶斯近似,从而启用预测不确定性,理论上证明其正确性。为降低计算复杂度,RDeepSense采用高效dropout和预测分布估计,而非模型集成或基于采样的方法进行推理操作。我们使用Intel Edison设备通过四个移动感知应用评估RDeepSense。结果显示,与其他最先进方法相比,RDeepSense能减少约90%能耗,同时产生更优不确定性估计并保持至少相同的模型精度。

关键词

引用

@article{arxiv.1709.02980,
  title  = {RDeepSense: Reliable Deep Mobile Computing Models with Uncertainty Estimations},
  author = {Shuochao Yao and Yiran Zhao and Huajie Shao and Aston Zhang and Chao Zhang and Shen Li and Tarek Abdelzaher},
  journal= {arXiv preprint arXiv:1709.02980},
  year   = {2017}
}