一种评估基于树的分类模型对成员推断攻击脆弱性的分层方法
机器学习
2026-02-04 v2 密码学与安全
摘要
机器学习模型可能无意中暴露其训练数据的机密属性，使其容易受到成员推断攻击（MIA）。虽然存在许多评估方法，但许多方法需要计算成本高昂的过程，例如训练多个影子模型。本文提出了两种新的互补方法，用于有效识别易受攻击的基于树的模型：超参数选择的前瞻性分析和训练模型结构的后验检查。虽然这些新方法无法证明模型是否免受MIA攻击，但它们为从业者提供了一种通过分层过滤方法显著减少需要接受昂贵MIA评估的模型数量的手段。更具体地说，研究表明，不同超参数组合的披露风险排序在不同数据集上保持一致，从而能够在训练前开发简单、可解释的规则来识别相对高风险的模型。虽然这种前瞻性分析无法确定绝对安全性（因为这也取决于特定数据集），但它允许在超参数调整期间消除不必要的高风险配置。此外，计算成本低廉的结构指标可作为MIA脆弱性的指标，提供第二个过滤阶段，以在训练后但执行昂贵攻击之前识别高风险模型。实证结果表明，基于超参数的风险预测规则可以在不同基于树的模型类型中高精度地预测最高风险的超参数组合，而无需进行模型训练。此外，目标模型的准确性似乎与隐私风险无关，这表明有机会同时优化模型配置的性能和隐私。
引用
@article{arxiv.2502.09396,
title = {A hierarchical approach for assessing the vulnerability of tree-based classification models to membership inference attack},
author = {Richard J. Preen and Jim Smith},
journal= {arXiv preprint arXiv:2502.09396},
year = {2026}
}