对抗训练在生物声学分布迁移下的泛化性中的提升
机器学习
2025-07-21 v1
摘要
对抗训练是一种提高模型抗对抗攻击鲁棒性的有前景的策略。然而，其对音频分类任务中在显著数据分布迁移情况下的泛化性影响尚未得到广泛探讨。为填补这一差距，本文研究了不同对抗训练策略如何提升音频分类中的泛化性能和对抗鲁棒性。该研究聚焦于两种模型架构：一种是常规的卷积神经网络 (ConvNeXt)，另一种是内在可解释的原型基模型 (AudioProtoPNet)。该方法采用一个具有挑战性的鸟鸣声分类基准进行评估。该基准因训练数据与测试数据在环境条件和录音方法上的显著分布迁移而具有挑战性，这是一种常见的现实世界挑战。本文探讨了两种对抗训练策略：一种基于输出空间攻击，以最大化分类损失函数为目标；另一种基于嵌入空间攻击，旨在最大化嵌入不相似性。这两种攻击类型也被用于鲁棒性评估。此外，对于 AudioProtoPNet，本文评估了其在针对性嵌入空间攻击下的学习原型的稳定性。结果表明，对抗训练（尤其是使用输出空间攻击）将干净测试数据的平均性能提升了 10.5%，同时加强了模型的对抗鲁棒性。尽管这些发现来自鸟鸣声领域，但表明对抗训练有潜力在挑战性的音频分类环境中提升对强分布迁移和对抗攻击的鲁棒性。
引用
@article{arxiv.2507.13727,
title = {Adversarial Training Improves Generalization Under Distribution Shifts in Bioacoustics},
author = {René Heinrich and Lukas Rauch and Bernhard Sick and Christoph Scholz},
journal= {arXiv preprint arXiv:2507.13727},
year = {2025}
}
备注
Work in progress