QuerySnout：自动化发现针对基于查询系统的属性推理攻击

尽管基于查询的系统（QBS）已成为匿名共享数据的主要解决方案之一，但构建能够稳健保护数据集贡献者隐私的 QBS 是一个难题。依赖差分隐私保证的理论解决方案难以在保证合理准确性的情况下正确实现，而临时解决方案可能包含未知的漏洞。因此，必须通过评估各种隐私攻击的准确性来评估 QBS 提供的隐私保护。然而，现有的攻击需要时间和专业知识来开发，需要针对被攻击的特定系统进行手动定制，且范围有限。在本文中，我们开发了 QuerySnout（QS），这是第一种自动发现 QBS 中漏洞的方法。QS 将目标记录和 QBS 作为黑盒输入，分析其在一个或多个数据集上的行为，并输出一个查询多重集以及组合这些查询答案的规则，以揭示目标记录的敏感属性。QS 使用基于新颖变异算子的进化搜索技术来寻找易于导致攻击的查询多重集，并使用机器学习分类器从所选查询的答案中推断敏感属性。我们将 QS 应用于两种攻击场景、三个真实世界数据集和各种保护机制，展示了其多功能性。我们表明，QS 找到的攻击始终等同于或优于文献中的最佳攻击，有时优势巨大。最后，我们展示了如何将 QS 扩展到需要预算的 QBS，并将 QS 应用于基于 Laplace 机制的简单 QBS。总而言之，我们的结果表明，针对 QBS 的强大且准确的攻击已经可以通过自动化系统找到，从而允许高度复杂的 QBS 在“按下按钮”时进行自动测试。