离线手写签名验证中对抗样本的特征刻画与评估
计算机视觉与模式识别
2019-01-25 v1 密码学与安全
摘要
对抗样本现象正因其对机器学习系统安全的显著影响而吸引机器学习界日益增加的关注。对抗样本与数据分布中的样本相似（从感知相似性概念而言），却能“欺骗”机器学习分类器。对于计算机视觉应用，这些是具有精心构造但几乎不可察觉的改动、从而被误分类的图像。本工作中，我们在针对生物识别系统的既有威胁分类框架下刻画该现象，特别识别出针对离线手写签名验证系统的新攻击。我们在四个广泛使用的数据集 MCYT-75、CEDAR、GPDS-160 与巴西 PUC-PR 上进行了大量实验，同时考虑基于 CNN 的系统与使用手工特征提取器（CLBP）的系统。我们发现，旨在使真实签名被拒的攻击易于生成，即便在攻击者无法访问训练分类器及训练所用签名的有限知识场景下亦然。使伪造签名被接受的攻击更难产生，且常需更高水平的噪声——多数情况下不再如物体识别中既往发现般“不可察觉”。我们还评估了两种对策对攻击成功率及生成成功攻击所需噪声量的影响。
引用
@article{arxiv.1901.03398,
title = {Characterizing and evaluating adversarial examples for Offline Handwritten Signature Verification},
author = {Luiz G. Hafemann and Robert Sabourin and Luiz S. Oliveira},
journal= {arXiv preprint arXiv:1901.03398},
year = {2019}
}
备注
Accepted for the IEEE Transactions on Information Forensics and Security