对抗攻击下非参数回归的极小化极大收敛速率
统计理论
2025-05-14 v2 机器学习
统计理论
摘要
最近的研究表明，机器学习模型容易受到对抗攻击的影响，即对输入进行微小但恶意选择的扰动会显著降低模型性能。在本文中，我们从理论上分析了在非参数回归设置下，针对此类对抗攻击的鲁棒性极限，通过研究对抗性上确界范数下的极小化极大收敛速率。我们的工作揭示，输入受到对抗攻击时的极小化极大速率等于两项之和：一项代表无对抗攻击的标准设置下的极小化极大速率，另一项反映了在输入扰动下，目标函数类中真实回归函数值的最大偏差。对抗设置下的最优速率可以通过一个对抗性插入过程来实现，该过程由相应标准设置下的极小化极大最优估计量构建而成。给出了两个具体例子来说明所建立的极小化极大结果。
引用
@article{arxiv.2410.09402,
title = {Minimax rates of convergence for nonparametric regression under adversarial attacks},
author = {Jingfu Peng and Yuhong Yang},
journal= {arXiv preprint arXiv:2410.09402},
year = {2025}
}