线性和矩阵回归中鲁棒化与正则化等价性的刻画
统计理论
2017-02-28 v2 机器学习
最优化与控制
机器学习
统计理论
摘要
近年来，开发对底层数据中的对抗性扰动具有鲁棒性的机器学习统计方法这一概念引起了越来越多的兴趣。这项工作的一个共同特征是，对抗性鲁棒化通常完全对应于表现为损失函数加惩罚的正则化方法。在本文中，我们加深并扩展了对回归问题中鲁棒化与正则化（通过惩罚实现）之间联系的理解。具体而言，(a) 在线性回归的背景下，我们精确刻画了在何种不确定性模型和损失函数惩罚条件下，鲁棒化与正则化是等价的；(b) 我们将鲁棒化和正则化的刻画扩展到矩阵回归问题（矩阵补全和主成分分析）。
引用
@article{arxiv.1411.6160,
title = {Characterization of the equivalence of robustification and regularization in linear and matrix regression},
author = {Dimitris Bertsimas and Martin S. Copenhaver},
journal= {arXiv preprint arXiv:1411.6160},
year = {2017}
}