用高斯过程一石四鸟：不同测试时攻击之间的关系
密码学与安全
2020-12-01 v3 机器学习
机器学习
摘要
在机器学习（ML）安全中，规避、模型窃取或成员推断等攻击通常被单独研究。先前工作也显示了某些攻击与目标模型决策函数曲率之间的关系。因此，我们研究一种可直接控制决策面曲率的 ML 模型：高斯过程分类器（GPCs）。对于规避，我们发现改变 GPC 的曲率以对某一攻击算法鲁棒，归结为使得另一种范数或攻击算法能够成功。我们的形式化分析支持这一点，表明静态安全保证与学习相对立。关于知识产权，我们形式化表明懒惰学习在应用时不一定泄露所有信息。实践中，常可找到看似安全的曲率。例如，我们能够通过适当配置使 GPC 抵御经验成员推断。然而在此配置下，GPC 的超参数被泄露，例如模型逆向工程成功。我们得出结论：分类上的攻击不应被孤立研究，而应相互关联地研究。
引用
@article{arxiv.1806.02032,
title = {Killing four birds with one Gaussian process: the relation between different test-time attacks},
author = {Kathrin Grosse and Michael T. Smith and Michael Backes},
journal= {arXiv preprint arXiv:1806.02032},
year = {2020}
}
备注
10 pages, 8 figures, long version of paper accepted at ICPR 2020