具有可学习间距的膨胀卷积
机器学习
2024-08-14 v1 计算机视觉与模式识别
神经与进化计算
声音
音频与语音处理
摘要
本文提出并评估了具有可学习间距的膨胀卷积(DCLS)方法。通过在计算机视觉、音频和语音处理领域的多种监督学习实验,DCLS 方法被证明优于标准和先进的卷积技术。该研究组织为若干步骤,从分析文献和 DCLS 方法开发之前的现有卷积技术开始。我们特别关注与自身方法密切相关且对捕捉我们方法的细微差别和独特性仍然必不可少的技术。本研究的基石是将 DCLS 方法引入卷积神经网络(CNN),以及依赖于卷积和视觉注意力方法的混合架构。DCLS 在分类、语义分割和目标检测等任务中表现尤为有效。最初使用双线性插值,研究还探索了其他插值方法,发现高斯插值略微提升了性能。DCLS 方法进一步应用于脉冲神经网络(SNN),以在最终可迁移到所谓神经形态芯片的神经网络中实现突触延迟学习。结果表明,DCLS 方法在该领域某些涉及高时间分量数据集的基准 SNN 音频分类任务中脱颖而出,成为一种新的最先进技巧。此外,我们展示了 DCLS 可以显著提升人工神经网络在多标签音频分类任务中的准确率。本文以所选的实验设置、其局限性、我们方法的局限性以及结果的讨论作为结尾。
引用
@article{arxiv.2408.06383,
title = {Dilated Convolution with Learnable Spacings},
author = {Ismail Khalfaoui-Hassani},
journal= {arXiv preprint arXiv:2408.06383},
year = {2024}
}
备注
PhD Thesis