面向低功耗 CPU 的自适应测试时增强
计算机视觉与模式识别
2021-05-14 v1 机器学习
图像与视频处理
摘要
卷积神经网络(ConvNets)在离线状态下使用少量可用数据进行训练,因此在部署到现场时,由于不可预测的外部条件下接收到的未见输入模式可能误导模型,从而遭受显著的精度损失。测试时增强(TTA)技术旨在缓解这种常见的副作用,其方法是在推理时先对同一输入样本的若干变换版本进行多次前向传播,然后通过聚合预测的共识计算出主要结果。遗憾的是,TTA 在嵌入式 CPU 上的实现会引入延迟开销,限制了其在边缘应用中的采用。为解决此问题,我们提出 AdapTTA,一种自适应的 TTA 实现,可根据输入复杂度动态控制前向传播次数。在最先进的用于图像分类的 ConvNets 部署于商用 ARM Cortex-A CPU 上的实验结果表明,AdapTTA 相比静态 TTA 实现了显著的延迟节省,从 1.49 倍到 2.21 倍,因而具有更高的帧率,同时仍保持相同的精度提升。
引用
@article{arxiv.2105.06183,
title = {Adaptive Test-Time Augmentation for Low-Power CPU},
author = {Luca Mocerino and Roberto G. Rizzo and Valentino Peluso and Andrea Calimera and Enrico Macii},
journal= {arXiv preprint arXiv:2105.06183},
year = {2021}
}