时间序列应用系统中数据变换与对抗鲁棒性之间的两难困境
机器学习
2021-12-13 v2 机器学习
摘要
对抗样本，即攻击者生成的几乎不可区分的输入，会显著降低机器学习精度。理论证据表明，数据集的高本征维度助长了对手在分类模型中生成有效对抗样本的能力。相邻地，数据呈现给学习模型的方式影响其性能。例如，我们已通过用于辅助机器学习应用中特征泛化的降维技术看到这一点。因此，在数据变换技术与智能医疗或军事系统等决策应用中的最先进学习模型是密不可分的。在本工作中，我们探究特征选择、降维或趋势提取等数据变换技术如何影响对手在循环神经网络上生成有效对抗样本的能力。具体地，我们从数据流形及其本征特征呈现的角度进行分析。我们的评估经验表明，特征选择与趋势提取技术可能增加 RNN 的脆弱性。仅当一种数据变换技术近似数据集的本征维度、最小化余维数并保持较高流形覆盖率时，才降低对对抗样本的脆弱性。
引用
@article{arxiv.2006.10885,
title = {The Dilemma Between Data Transformations and Adversarial Robustness for Time Series Application Systems},
author = {Sheila Alemany and Niki Pissinou},
journal= {arXiv preprint arXiv:2006.10885},
year = {2021}
}