用于时间受限推理的近似 LSTM：赋能自动驾驶汽车的快速反应
信号处理
2019-10-31 v2 机器学习
机器人学
摘要
识别视频流等序列数据中的长期依赖关系，使得长短期记忆（LSTM）网络成为许多新兴应用中突出的 AI 模型。然而，LSTM 的高计算与内存需求给其在时延关键系统（如配备有限车载计算资源的自动驾驶汽车）上的部署带来挑战。本文提出一种渐进式推理计算方案，结合模型剪枝与计算重构，从而在目标应用可用时延预算下给出结果的最佳可能近似。所提方法使任务关键系统能够基于近似 LSTM 推理在计算早期阶段即做出明智决策，满足其在安全性与鲁棒性上的规范。我们在最先进的自动驾驶导航模型上的实验表明，与忠实 LSTM 基线相比，所提方法可产生质量相近的输出，最高快 415 倍（平均 198 倍，几何平均 76 倍）。
引用
@article{arxiv.1905.00689,
title = {Approximate LSTMs for Time-Constrained Inference: Enabling Fast Reaction in Self-Driving Cars},
author = {Alexandros Kouris and Stylianos I. Venieris and Michail Rizakis and Christos-Savvas Bouganis},
journal= {arXiv preprint arXiv:1905.00689},
year = {2019}
}
备注
PREPRINT: Accepted for publication at the IEEE Consumer Electronics Magazine (CEM). [Acceptance Date: 28-Oct-2019]