DenoMAE2.0：通过分类局部图块提高去噪掩码自编码器
机器学习
2025-02-26 v1 人工智能
摘要
我们提出 DenoMAE2.0，一种增强型去噪掩码自编码器，集成局部图块分类目标于传统重构损失，以提高表征学习和鲁棒性。不同于传统掩码自编码器（MAE）仅关注重构缺失输入，DenoMAE2.0 引入位置感知的未掩码图块分类，使模型能够捕获细粒度局部特征，同时保持全局一致性。这种双目标方法在无线通信中半监督学习中尤为有益，后者面临高噪声和数据稀缺挑战。我们在包括极低至中等高信噪比（SNR）范围内的调制信号分类实验中进行了广泛测试，处于低数据 regime。我们的结果表明，DenoMAE2.0 在去噪质量和下游分类准确率方面均优于其前身 DenoMAE 和其他基线方法。DenoMAE2.0 在我们的数据集上比 DenoMAE 提升 1.1%，在 RadioML 基准数据集上实现调制信号星座图分类准确率提升 11.83% 和 16.55%。
引用
@article{arxiv.2502.18202,
title = {DenoMAE2.0: Improving Denoising Masked Autoencoders by Classifying Local Patches},
author = {Atik Faysal and Mohammad Rostami and Taha Boushine and Reihaneh Gh. Roshan and Huaxia Wang and Nikhil Muralidhar},
journal= {arXiv preprint arXiv:2502.18202},
year = {2025}
}