TinyAD：面向工业物联网时间序列数据的存储高效异常检测
机器学习
2023-03-08 v1
摘要
在信息物理系统中监测和检测异常事件对工业生产至关重要。随着工业物联网（IIoT）的广泛部署，海量时间序列数据被收集以支撑异常检测的机器学习模型，而将训练好的模型直接部署到 IIoT 设备上极为重要。然而，在嵌入微控制器（MCUs）的这些存储受限 IIoT 设备上部署诸如卷积神经网络（CNNs）等复杂深度学习模型最具挑战性。为缓解 MCUs 的存储限制，我们提出一种名为 Tiny Anomaly Detection（TinyAD）的新框架，以高效支持 CNNs 的板载推理用于实时异常检测。首先，我们对深度可分离 CNNs 与常规 CNNs 用于异常检测进行了全面分析，发现深度可分离卷积操作相比传统 CNNs 可将模型大小减少 50-90%。接着，为降低 CNNs 的峰值内存消耗，我们探索了两种互补策略——原地（in-place）与逐块（patch-by-patch）内存重调度，并将其集成到统一框架中。原地方法通过腾出临时缓冲区传输激活结果来降低深度卷积的峰值内存，而逐块方法通过将输入数据切片为相应感受野并依次执行，进一步减少逐层执行的峰值内存。此外，通过调整卷积滤波器维度，这些策略可同时应用于单变量时间序列和多域时间序列特征。在真实工业数据集上的大量实验表明，我们的框架可将峰值内存消耗降低 2-5 倍，且计算开销可忽略。
引用
@article{arxiv.2303.03611,
title = {TinyAD: Memory-efficient anomaly detection for time series data in Industrial IoT},
author = {Yuting Sun and Tong Chen and Quoc Viet Hung Nguyen and Hongzhi Yin},
journal= {arXiv preprint arXiv:2303.03611},
year = {2023}
}
备注
Accepted by IEEE Transactions on Industrial Informatics