当机器学习模型泄露时：对合成训练数据的探索
机器学习
2024-05-21 v3
摘要
我们研究了一种针对机器学习模型的攻击，该模型预测某人或某家庭是否会在未来两年内搬迁，即搬迁倾向分类器。该攻击假设攻击者可以查询模型以获取预测结果，且模型训练所用数据的边际分布是公开可用的。该攻击还假设攻击者已获取一定数量的 target 个体的非敏感属性值。攻击的目标是推断这些 target 个体的敏感属性值。我们探讨了在训练模型时用合成数据替换原始数据会如何影响攻击者成功推断敏感属性的程度。
引用
@article{arxiv.2310.08775,
title = {When Machine Learning Models Leak: An Exploration of Synthetic Training Data},
author = {Manel Slokom and Peter-Paul de Wolf and Martha Larson},
journal= {arXiv preprint arXiv:2310.08775},
year = {2024}
}
备注
Original paper published at PSD 2022. The paper was subsequently updated