利用概念嵌入验证DNN激活中的尺寸不变性
计算机视觉与模式识别
2021-07-06 v1 神经与进化计算
摘要
深度神经网络（DNNs）的优势已在医疗或自动驾驶等安全关键应用中受到关注。然而，此类应用需要对DNN内部表示进行定量洞察。概念分析是实现此目的的一种途径，其旨在建立DNN内部表示与直观语义概念之间的映射。此类概念可以是如人体部位等子对象，对行人检测验证颇具价值。据我们所知，概念分析尚未应用于大型目标检测器，尤其未用于子部件。因此，本工作首先提出Net2Vec方法（arXiv:1801.03454）的显著改进版本，用于子对象的后验分割。随后在一个新概念数据集上，通过对三个标准网络（包括较大的Mask R-CNN模型（arXiv:1703.06870））的两项示例评估展示其实用性：（1）身体部位相似度的一致性，以及（2）身体部位内部表示相对于所描绘人物像素尺寸的不变性。结果表明，身体部位的表示大多是尺寸不变的，这可能暗示在不同尺寸类别间存在早期智能信息融合。
引用
@article{arxiv.2105.06727,
title = {Verification of Size Invariance in DNN Activations using Concept Embeddings},
author = {Gesina Schwalbe},
journal= {arXiv preprint arXiv:2105.06727},
year = {2021}
}
备注
12 pages, 7 figures; Camera-ready version for AIAI2021