AugOp：将变换注入神经算子
机器学习
2023-06-21 v2 计算机视觉与模式识别
摘要
本文提出一种简单而通用的方案，通过在训练时注入额外的分组变换来增广常规卷积算子，并在推理时将其恢复。额外变换经过精心选择，以确保其能在各分组内与常规卷积合并，且在推理时不会改变常规卷积的拓扑结构。相比常规卷积算子，我们的方法（AugConv）可在训练时引入更大的学习能力以提升模型性能，但不会为模型部署增加额外计算开销。基于ResNet，我们利用AugConv构建名为AugResNet的卷积神经网络。在图像分类数据集Cifar-10上的结果表明，AugResNet在模型性能上优于其基线。
引用
@article{arxiv.2211.12514,
title = {AugOp: Inject Transformation into Neural Operator},
author = {Longqing Ye},
journal= {arXiv preprint arXiv:2211.12514},
year = {2023}
}
备注
The results are greatly influenced by random seeds. The conclusion may be wrong