学习型数据库系统安全

学习型数据库系统在内部使用机器学习 (ML) 来提升性能。我们可以预期此类系统容易受到某些对抗性机器学习攻击。通常，学习组件在互不信任的用户或进程之间共享，类似于缓存等微架构资源，这可能会产生极具现实性的攻击者模型。然而，与对其他基于 ML 的系统的攻击相比，攻击者面临一定程度的间接性，因为他们无法直接与学习模型交互。此外，同一系统的学习版本与非学习版本的攻击面之间的差异通常很微妙。这些因素掩盖了引入 ML 所带来的实际风险。我们分析了学习型数据库系统中攻击面可能增加的根本原因，并开发了一个框架来识别源于 ML 使用的漏洞。我们将该框架应用于数据库社区目前正在探索的广泛的学习组件集合。为了实证验证我们的框架所揭示的漏洞，我们选择了其中 3 个组件，并针对它们实现和评估了漏洞利用。我们表明，ML 的使用会导致数据库中过往查询的泄露，使投毒攻击成为可能，从而导致索引结构内存呈指数级膨胀并在几秒钟内崩溃，并使索引用户能够通过对自己键的查询计时来窥探彼此的键分布。我们发现对抗性 ML 是数据库系统中学习组件面临的普遍威胁，指出了我们在学习型系统安全理解方面的开放性研究空白，并在最后讨论了缓解措施，同时指出在多方共享学习组件的系统中数据泄露是固有的。