树集成分类器中知识的嵌入与提取
密码学与安全
2021-10-27 v3 机器学习
摘要
有用知识的嵌入与提取是机器学习应用中近来的趋势，例如用于补充现有的小规模数据集。同时，随着机器学习模型在安全关键应用中的使用日益增多，恶意知识的嵌入与提取分别等同于臭名昭著的后门攻击及其防御。本文研究树集成分类器中知识的嵌入与提取，并关注可用一种通用形式的布尔公式表达的知识，例如鲁棒性属性与后门攻击。对于嵌入，要求其具有保持性（分类器的原始性能被保持）、可验证性（知识可被证明）与隐蔽性（嵌入不易被检测）。为此，我们提出了两种新颖且有效的嵌入算法，其中一种用于黑盒设定，另一种用于白盒设定。嵌入可在 PTIME 内完成。除嵌入外，我们开发了一种提取嵌入知识的算法，通过将问题归约至可用 SMT（可满足性模理论）求解器求解。尽管这一新颖算法能成功提取知识，该归约导致了 NP 计算。因此，若将嵌入作为后门攻击、将提取作为防御，我们的结果表明在处理树集成分类器时攻击与防御之间存在复杂性差距（P 对 NP）。我们将算法应用于多种不同的数据集，以广泛验证我们的结论。
引用
@article{arxiv.2010.08281,
title = {Embedding and Extraction of Knowledge in Tree Ensemble Classifiers},
author = {Wei Huang and Xingyu Zhao and Xiaowei Huang},
journal= {arXiv preprint arXiv:2010.08281},
year = {2021}
}