对抗鲁棒性的利与弊

鲁棒性被广泛视为机器学习（ML）模型分析中的一个基本问题。通常，鲁棒性等同于判定对抗样本的不存在性，其中对抗样本是指在某些输入上的微小改变会导致预测结果发生变化的情况。对 ML 模型鲁棒性重要性的认知，解释了过去十年中大部分时间里所观察到的持续进展。虽然鲁棒性通常是在局部评估的，即给定特征空间中的某个目标点，但鲁棒性也可以在全局定义，即可以考虑特征空间中的任意点。ML 模型鲁棒性的重要性体现在，例如存在评估鲁棒性工具进展的竞赛（特别是在神经网络（NN）的情况下），以及在鲁棒性认证方面的努力。最近，鲁棒性工具也被用于计算 ML 模型的严格解释。与观察到的鲁棒性成功相反，本文揭示了现有的鲁棒性定义（包括全局和局部）以及鲁棒性认证努力的一些局限性。本文还研究了除与鲁棒性相关之外对抗样本的用途。