对抗性符号损坏保序回归
统计理论
2022-07-15 v1 机器学习
统计理论
摘要
经典的单变量保序回归涉及在真实信号单调性约束下的非参数估计。我们考虑该生成过程的一个变体,称之为对抗性符号损坏保序(adversarial sign-corrupted isotonic, \texttt{ASCI})回归。在此 \texttt{ASCI} 设定下,对手可完全访问真实保序响应,并可自由地对其施加符号损坏。给定这些符号损坏的响应来估计真实单调信号是一项极具挑战的任务。值得注意的是,符号损坏被设计用于破坏单调性,并可能在损坏的响应项之间诱导出强依赖性。从这个意义上说,\texttt{ASCI} 回归可视为保序回归的一种对抗性压力测试。我们的研究动机源于理解在此对抗设定下是否可能实现单调信号的高效鲁棒估计。我们开发了 \texttt{ASCIFIT},一种在 \texttt{ASCI} 设定下的三步估计过程。\texttt{ASCIFIT} 过程概念简单,易于用现有软件实现,并由对 \texttt{PAVA} 施加关键的前后处理修正组成。我们形式化了该过程,并以高概率紧上界和极小极大下界的形式展示了其理论保证。我们通过详细的模拟说明了我们的发现。
引用
@article{arxiv.2207.07075,
title = {Adversarial Sign-Corrupted Isotonic Regression},
author = {Shamindra Shrotriya and Matey Neykov},
journal= {arXiv preprint arXiv:2207.07075},
year = {2022}
}
备注
Total paper (52 pages, 2 figures): Main paper (13 pages, 2 figures) + Appendix (39 pages)