DS-CNNs 中通用主密钥滤波器的探索
计算机视觉与模式识别
2025-09-16 v1
摘要
最近一项研究提出了卷积神经网络滤波器的主密钥滤波器假说。本文通过将其范围急剧限定为仅包含 8 个通用滤波器的单一集合，扩展了这一假说——这些滤波器是深度可分离卷积网络固有收敛到的。虽然传统 DS-CNN 使用数千个不同的训练滤波器，但我们的分析揭示这些滤波器主要是我们所发现的通用集合的线性平移 (ax+b)。通过系统的无监督搜索，我们在不同架构和数据集上提取了这些基本模式。值得注意的是，用这 8 个独特的冻结滤波器初始化的网络在 ImageNet 上实现了超过 80% 的准确率，并且在应用于较小数据集时甚至优于具有数千个可训练参数的模型。识别出的主密钥滤波器与差分高斯 (DoGs)、高斯及其导数高度吻合，这些结构不仅是经典图像处理的基础，而且与哺乳动物视觉系统中的感受野惊人地相似。我们的研究提供了令人信服的证据，表明深度卷积层自然地倾向于这组基本空间算子，无论任务或架构如何。本工作通过这些主密钥滤波器的通用语言，为理解泛化和迁移学习提供了新见解。
引用
@article{arxiv.2509.11711,
title = {The Quest for Universal Master Key Filters in DS-CNNs},
author = {Zahra Babaiee and Peyman M. Kiassari and Daniela Rus and Radu Grosu},
journal= {arXiv preprint arXiv:2509.11711},
year = {2025}
}