具有可学习间距的空洞卷积：超越双线性插值
计算机视觉与模式识别
2023-09-26 v2 人工智能
摘要
具有可学习间距的空洞卷积（DCLS）是空洞卷积的一种最新变体，其中卷积核中非零元素之间的间距，或等价地它们的位置，是可学习的。非整数位置通过插值处理。得益于这一技巧，位置具有明确定义的梯度。原始 DCLS 使用双线性插值，因此仅考虑最近的四个像素。然而在此我们表明，更大范围的插值，特别是高斯插值，能够在两种 SOTA 卷积架构（ConvNeXt 和 ConvFormer）上提升 ImageNet1k 分类的性能，而无需增加参数量。该方法代码基于 PyTorch，可在 https://github.com/K-H-Ismail/Dilated-Convolution-with-Learnable-Spacings-PyTorch 获取。
引用
@article{arxiv.2306.00817,
title = {Dilated Convolution with Learnable Spacings: beyond bilinear interpolation},
author = {Ismail Khalfaoui-Hassani and Thomas Pellegrini and Timothée Masquelier},
journal= {arXiv preprint arXiv:2306.00817},
year = {2023}
}
备注
Published in ICML 2023 Workshop on Differentiable Almost Everything: Differentiable Relaxations, Algorithms, Operators, and Simulators. 2023