Shapes are not enough: CONSERVAttack 及其用于发现机器学习应用中漏洞与不确定性的研究
机器学习
2026-04-09 v2 高能物理 - 实验
摘要
在高能物理学中，像许多其他科学领域一样，机器学习技术的应用对我们理解基本现象具有关键作用。越来越多地，深度学习模型被应用于分析模拟数据和实验数据。在大多数实验中，都有一套严格的测试体系，用于测试基于物理动机的系统不确定性。对数据与模拟之间差异的这些测试的数值评估量化了潜在模型误差对机器学习输出的影响。此外，还会对数据与模拟在边缘分布和(线性)特征相关性进行彻底的比较，方法是在"控制区域"中进行。然而，由物理动机引导的做法，以及需要将比较限制在特定区域的需求，并不能保证所有可能的偏差来源都已被考虑在内。因此，我们提出了一种新的对抗攻击——CONSERVAttack——旨在利用模拟与数据之间剩余假设偏差的空间。生成的对抗扰动在不确定性界限内是一致的——规避标准验证检查——同时成功地欺骗底层模型。我们进一步提出了缓解此类漏洞的策略，并认为在解释深度学习在粒子物理中的结果时，必须考虑对抗效应的鲁棒性。
引用
@article{arxiv.2603.13970,
title = {Shapes are not enough: CONSERVAttack and its use for finding vulnerabilities and uncertainties in machine learning applications},
author = {Philip Bechtle and Lucie Flek and Philipp Alexander Jung and Akbar Karimi and Timo Saala and Alexander Schmidt and Matthias Schott and Philipp Soldin and Christopher Wiebusch and Ulrich Willemsen},
journal= {arXiv preprint arXiv:2603.13970},
year = {2026}
}