模型部署后学习

在经典监督学习中，一旦模型被部署到应用中，就会被固定。在应用期间不会对其进行更新。这对许多动态和开放环境而言并不恰当。在此类环境中，模型应能够检测来自不可见类别的意外样本，并在其被标记后对其进行学习。我们称这种范式为模型部署后自主学习（Autonomous Learning after Model Deployment, ALMD）。此处的学习是连续的，且不涉及人类工程师。在ALMD中，标记工作由人类同事或其他有知识的代理人执行，这类似于人类在遇到陌生物体时向另一个人询问其名称。在ALMD中，新样本的检测是动态的，其与传统离分布（out-of-distribution, OOD）检测的区别在于，随着应用期间学习新类别，分布内（in-distribution, ID）类别的集合正在扩张，而传统OOD检测中ID类别是固定的。学习也不同于经典监督学习，因为在ALMD中，我们会立即增量地学习所遇到的新类别。使用所有过去ID类别的过去数据以及新发现类别的新样本从头重新训练模型会非常昂贵和耗时。除了这两个挑战之外，ALMD还面临数据稀缺问题，因为新类别的实例往往在现实应用中零星出现。为此，我们提出了一种新方法，PLDA（Perturbation-based Dynamic Detection and Incremental Learning），其执行动态OD检测和增量学习，以实现对新类别的在线学习。经验评估将展示PLDA的有效性。