针对基于眼动的的用户建模分类器的对抗攻击
密码学与安全
2020-06-02 v1 人机交互
摘要
越来越多的工作表明，眼动中蕴含丰富的信息可用于用户建模，例如预测用户的活动、认知过程甚至人格特质。我们展示了最先进的基于眼动的的用户建模分类器对对抗样本高度脆弱：注视输入中微小的人为扰动即可大幅改变分类器的预测。我们使用快速梯度符号法（FGSM）生成这些对抗样本，该方法对梯度进行线性化以寻找合适的扰动。在以基于眼动的文档类型识别为样本任务上，我们研究了不同对抗攻击场景的成功率：是否掌握分类器梯度信息（白盒 vs. 黑盒），以及是否将攻击定向到特定类别。此外，我们证明了通过将对抗样本加入分类器训练数据来防御对抗攻击的可行性。
引用
@article{arxiv.2006.00860,
title = {Adversarial Attacks on Classifiers for Eye-based User Modelling},
author = {Inken Hagestedt and Michael Backes and Andreas Bulling},
journal= {arXiv preprint arXiv:2006.00860},
year = {2020}
}
备注
9 pages, 7 figures