基于主特征值的正则化以提升平滑分类器的最差类别认证鲁棒性
机器学习
2025-03-24 v1
摘要
近期研究识别出深度神经网络 (DNN) 中的一个关键挑战，即“鲁棒公平性”，即模型在不同类别间的鲁棒准确率存在显著差异。虽然先前工作试图解决对抗鲁棒性问题，但对平滑分类器的最差类别认证鲁棒性尚未得到探索。我们的工作通过发展平滑分类器最差类别误差的 PAC-Bayesian 界限来弥合这一差距。通过理论分析，我们展示平滑混淆矩阵的最大特征值在平滑分类器的最差类别误差中起根本性作用。基于此洞见，我们引入一种正则化方法，通过优化平滑混淆矩阵的最大特征值来增强平滑分类器的最差类别准确率，从而进一步提升其最差类别认证鲁棒性。我们在多个数据集和模型架构上进行了广泛的实验验证，以Demonstrate该方法的有效性。
引用
@article{arxiv.2503.17172,
title = {Principal Eigenvalue Regularization for Improved Worst-Class Certified Robustness of Smoothed Classifiers},
author = {Gaojie Jin and Tianjin Huang and Ronghui Mu and Xiaowei Huang},
journal= {arXiv preprint arXiv:2503.17172},
year = {2025}
}
备注
Under Review