语义自编码器及其在对抗攻击中的潜在应用
机器学习
2022-06-01 v1 密码学与安全
摘要
自编码器能够给出输入数据的合适潜在表示，然而，仅基于输入数据固有属性的表示通常难以表达某些语义信息。一个典型情形是这些表示在聚类时可能无法形成清晰的边界。通过编码不仅依赖于输入数据内容、而且依赖于输入数据语义（如标签信息）的潜在表示，我们提出了一种增强的自编码器架构，称为语义自编码器。经由 t-SNE 的表示分布实验显示了这两类编码器之间的明显区别，并证实了语义自编码器的优越性，而这两类自编码器解码出的样本在客观或主观上都表现出细微的差异。基于该观察，我们考虑针对依赖自编码器所得潜在表示的学习算法进行对抗攻击。结果表明，由带有刻意错误标签信息的语义编码器构造的对抗样本的潜在内容与原输入数据相比呈现出不同的分布，而这两类样本之间的差异极小。由于保护广泛应用的深度学习的必要性，我们工作所建立的这种新攻击方式值得关注。
引用
@article{arxiv.2205.15592,
title = {Semantic Autoencoder and Its Potential Usage for Adversarial Attack},
author = {Yurui Ming and Cuihuan Du and Chin-Teng Lin},
journal= {arXiv preprint arXiv:2205.15592},
year = {2022}
}