先掌握其统计量：面向表格数据的数据无关模型提取攻击
密码学与安全
2021-10-01 v1 人工智能
摘要
模型提取攻击是一类攻击者通过查询及其结果获得与受害模型性能相当的机器学习模型的攻击。本文提出了一种新颖的模型提取攻击，名为TEMPEST，适用于表格数据在实际的数据无关设定下的场景。由于归一化，表格数据上的模型提取更具挑战性，而TEMPEST不再需要先前攻击所需的初始样本；相反，它利用公开可用的统计量来生成查询样本。实验表明，我们的攻击可以达到与先前攻击相同水平的性能。此外，我们确认使用均值和方差作为查询生成的统计量，以及使用与受害模型相同的归一化过程，可以提升我们攻击的性能。我们还通过一项医学诊断数据集的实验讨论了TEMPEST在现实世界中被执行的可能性。我们计划发布源代码以保证可复现性，并为后续工作提供参考。
引用
@article{arxiv.2109.14857,
title = {First to Possess His Statistics: Data-Free Model Extraction Attack on Tabular Data},
author = {Masataka Tasumi and Kazuki Iwahana and Naoto Yanai and Katsunari Shishido and Toshiya Shimizu and Yuji Higuchi and Ikuya Morikawa and Jun Yajima},
journal= {arXiv preprint arXiv:2109.14857},
year = {2021}
}
备注
8 pages, 6 figures