使用 TensorFlow Lite 在边缘设备上进行持续学习
机器学习
2021-05-06 v1 计算机视觉与模式识别
摘要
使用当今技术,在嵌入式设备上部署复杂的深度学习模型以解决现实世界问题十分困难。隐私与数据限制、网络连接问题以及对快速模型适应的需求,是使得当今方法不适用于边缘端许多应用、并使实时设备端训练成为必要的一些挑战。Google 目前正通过将一个实验性的迁移学习 API 嵌入其机器学习库 TensorFlow Lite 来应对这些挑战。在本文中,我们表明尽管迁移学习是设备端模型训练的良好第一步,但在面对更现实的场景时会遭受灾难性遗忘。我们通过在 CORe50 基准上测试一个简单的迁移学习模型,以及在我们开发的 Android 应用上直接展示其局限性,来呈现该问题。此外,我们通过将一种简单的回放方法集成到当前迁移学习模型的头部,扩展了 TensorFlow Lite 库以包含持续学习能力。我们在 CORe50 基准上测试我们的持续学习模型,表明其解决了灾难性遗忘,并使用我们开发的应用展示了其即使在非理想条件下也能持续学习的能力。最后,我们将 Android 应用的代码开源,以使开发者能将持续学习集成到他们自己的智能手机应用中,并促进 TensorFlow Lite 环境中持续学习功能的进一步发展。
引用
@article{arxiv.2105.01946,
title = {Continual Learning on the Edge with TensorFlow Lite},
author = {Giorgos Demosthenous and Vassilis Vassiliades},
journal= {arXiv preprint arXiv:2105.01946},
year = {2021}
}
备注
8 pages, 9 figures