DeepStreamCE：一种用于深度神经网络中概念演化检测的流式方法
机器学习
2020-04-09 v1 机器学习
摘要
深度神经网络在决策预测方面经实验证明优于其他机器学习方法。然而，一个主要问题在于其对训练类别进行分类决策的闭集性质，这在安全关键系统中可能产生严重后果。当深度神经网络处于流式环境中时，需要对该分类进行快速解释，以确定分类结果是否可信。当输入深度神经网络的数据随时间变化时，会出现不可信分类。可能发生的一种变化是概念演化（concept evolution），即引入深度神经网络未训练过的新类别。在大多数深度神经网络架构中，唯一的选择是将该实例分配给其训练过的某一类别，这将是错误的。本研究旨在检测流中新类别的到来。现有关于深度神经网络解释的工作通常聚焦于神经元激活以提供视觉解释和特征提取。我们提出的新方法 DeepStreamCE，使用流式方法实现深度神经网络中实时概念演化检测。DeepStreamCE 在离线阶段使用自编码器进行神经元激活降维，并采用基于 MCOD 流的聚类。两种输出均在在线阶段用于分析演化流中的神经元激活，以实时检测概念演化的发生。我们通过使用 CIFAR-10 数据集中的不同数据组合训练 VGG16 卷积神经网络来评估 DeepStreamCE，并留出部分类别作为概念演化。为比较，我们将该数据和 VGG16 网络应用于一种开集深度网络方案——OpenMax。在识别我们数据集中的概念演化时，DeepStreamCE 优于 OpenMax。
引用
@article{arxiv.2004.04116,
title = {DeepStreamCE: A Streaming Approach to Concept Evolution Detection in Deep Neural Networks},
author = {Lorraine Chambers and Mohamed Medhat Gaber and Zahraa S. Abdallah},
journal= {arXiv preprint arXiv:2004.04116},
year = {2020}
}
备注
Submitted to Journal of Machine Learning, Springer