Chanakya：面向自适应实时感知的运行时决策学习框架
计算机视觉与模式识别
2023-11-13 v3 机器学习
摘要
实时感知需要有计划的资源利用。实时感知中的计算规划受两方面考量支配——精度与延迟。存在一些运行时决策（例如输入分辨率的选择）会引发影响给定硬件上性能的权衡，这些权衡源于内在（内容，如场景杂乱）和外在（系统，如资源争用）特征。早期的运行时执行框架采用基于规则的决策算法，并以固定的算法延迟预算来平衡这些关注点，这是次优且不灵活的。我们提出 Chanakya，一个从流式感知范式自然衍生的学习型近似执行框架，以自动学习由这些权衡引发的决策。Chanakya 通过平衡精度与延迟的新颖奖励进行训练，隐式地平衡二者，而不近似任一目标。Chanakya 同时考虑内在与外在上下文，并以灵活方式预测决策。Chanakya 设计时就考虑到低开销，在公开数据集上于服务器 GPU 和边缘设备均优于最先进的静态与动态执行策略。
引用
@article{arxiv.2106.05665,
title = {Chanakya: Learning Runtime Decisions for Adaptive Real-Time Perception},
author = {Anurag Ghosh and Vaibhav Balloli and Akshay Nambi and Aditya Singh and Tanuja Ganu},
journal= {arXiv preprint arXiv:2106.05665},
year = {2023}
}
备注
NeurIPS 2023 Accepted Paper