Deep Edge Filter：深度学习中人类精心设计图层的复兴
机器学习
2025-12-11 v5 人工智能
摘要
我们提出 Deep Edge Filter，一种一种新颖方法，通过对深度神经网络特征应用高通滤波以提高模型的可泛化性。我们的方法灵感来自我们的假设：神经网络在深度特征的高频分量中编码任务相关的语义信息，而将域特定偏差存储在低频分量中。通过从原始特征中减去低通滤波输出，我们的方法隔离了可泛化的表征，同时保持了架构的完整性。跨 Vision、Text、3D 和 Audio 等多样领域的实验结果表明，无论模型架构和数据模态性如何，都能一致地实现性能提升。分析揭示，我们的方法诱导特征稀疏化，有效地隔离了高频分量，为我们的核心假设提供了实证依据。代码可在 https://github.com/dongkwani/DeepEdgeFilter 获取。
引用
@article{arxiv.2510.13865,
title = {Deep Edge Filter: Return of the Human-Crafted Layer in Deep Learning},
author = {Dongkwan Lee and Junhoo Lee and Nojun Kwak},
journal= {arXiv preprint arXiv:2510.13865},
year = {2025}
}
备注
NeurIPS2025