FastICARL：音频感知应用中具有高效预算分配的快速增量分类器与表示学习
声音
2021-06-28 v2 机器学习
音频与语音处理
摘要
已有多种增量学习（IL）方法被提出，以帮助深度学习模型持续学习新任务/类别而不遗忘先前所学（即避免灾难性遗忘）。随着越来越多已部署的音频感知应用需要动态纳入新任务及来自用户的输入分布变化，设备端 IL 能力对效率与用户隐私都至关重要。然而，已有工作存在高计算成本与存储需求，阻碍了 IL 在设备端的部署。本工作中，为克服这些限制，我们开发了端到端、设备端的 IL 框架 FastICARL，其在基于音频的应用背景下结合了基于样例的 IL 与量化。我们首先采用 k-nearest-neighbor 降低 IL 延迟，随后联合利用量化技术减少 IL 的存储需求。我们在两类移动设备上实现 FastICARL，并证明其在不牺牲性能的前提下，将 IL 时间显著减少 78-92%，存储需求降低 2-4 倍。FastICARL 实现了完整的设备端 IL，确保用户隐私，因为用户数据无需离开设备。
引用
@article{arxiv.2106.07268,
title = {FastICARL: Fast Incremental Classifier and Representation Learning with Efficient Budget Allocation in Audio Sensing Applications},
author = {Young D. Kwon and Jagmohan Chauhan and Cecilia Mascolo},
journal= {arXiv preprint arXiv:2106.07268},
year = {2021}
}
备注
Accepted for publication at INTERSPEECH 2021