始终因人而异：利用早退机制实现高效的设备端 CNN 个性化
机器学习
2021-02-03 v1 计算机视觉与模式识别
摘要
得益于强大硬件与模型压缩技术的可用性，设备端机器学习正成为现实。通常，这些模型在大型 GPU 集群上预训练，并拥有足够参数以泛化到广泛多样的输入。本工作中，我们观察到可采用小得多的个性化模型来适配特定场景，从而获得更高准确率与更快执行速度。然而，设备端训练极具挑战性，即便对旗舰智能手机也带来过高的计算与内存需求。同时，设备端数据可用性可能有限且样本大多无标签。为此，我们提出 PersEPhonEE，一个在模型上附加早退层并在设备端对其进行个性化的框架。这些早退层使得模型能随着更多个性化数据可用而渐进地绕过更大比例的计算。此外，我们引入了一种高效的设备端算法，以半监督方式训练早退层，耗时仅为整个网络个性化时间的一小部分。结果表明，根据设备端标签的可用性，PersEPhonEE 在同等准确率下将准确率提升多达 15.9%，同时将训练成本降低多达 2.2 倍、推理延迟平均降低 2.2-3.2 倍。
引用
@article{arxiv.2102.01393,
title = {It's always personal: Using Early Exits for Efficient On-Device CNN Personalisation},
author = {Ilias Leontiadis and Stefanos Laskaridis and Stylianos I. Venieris and Nicholas D. Lane},
journal= {arXiv preprint arXiv:2102.01393},
year = {2021}
}
备注
Accepted at the 22nd International Workshop on Mobile Computing Systems and Applications (HotMobile), 2021