用于异常检测的自监督掩码卷积Transformer模块

异常检测近来在计算机视觉领域获得越来越多的关注，这可能源于其广泛的应用，从工业生产线上的产品故障检测、视频监控中的突发事件检测，到医学扫描中病灶的寻找。无论领域如何，异常检测通常被构建为一类分类任务，其中学习仅基于正常样本进行。一整类成功的异常检测方法基于学习重建被掩码的正常输入（例如图像块、未来帧等），并将重建误差的大小作为异常程度的指标。与其他基于重建的方法不同，我们提出了一种新颖的自监督掩码卷积Transformer模块（SSMCTB），其在核心架构层面集成了基于重建的功能。所提自监督模块极为灵活，可在神经网络的任意层进行信息掩码，并兼容多种神经架构。在本工作中，我们用一个三维掩码卷积层、一个用于通道注意力的Transformer，以及一种基于Huber损失的新型自监督目标，扩展了我们先前的自监督预测卷积注意力模块（SSPCAB）。此外，我们展示了我们的模块可适用于更广的任务范围，在先前基于RGB图像与监控视频的任务基础上，增加了医学图像与热成像视频中的异常检测。我们通过将SSMCTB集成到多个最先进的异常检测神经模型中，展示了其通用性与灵活性，并给出了证实在五个基准上性能显著提升的实证结果。我们在 https://github.com/ristea/ssmctb 开源了代码与数据。