突破隐私只需一个黑盒模型：以智能电网预测模型为例
机器学习
2023-09-06 v1 密码学与安全
摘要
本文研究了预测模型相关的潜在隐私风险，特别关注其在智能电网背景下的应用。尽管机器学习和深度学习算法提供了有价值的效用，但其暴露敏感信息的问题引发了担忧。以往研究集中于分类模型，忽视了预测模型相关的风险。基于深度学习的预测模型（如长短期记忆网络（LSTM））在包括智能电网系统优化在内的若干应用中发挥着关键作用，但也引入了隐私风险。我们的研究分析了预测模型泄露全局属性和对智能电网系统造成隐私威胁的能力。我们证明，对 LSTM 模型的黑盒访问可揭示大量信息，其等效于直接访问数据本身（两者在 ROC 曲线下面积上的差异低至 1%）。这凸显了将预测模型与数据同等保护的重要性。
引用
@article{arxiv.2309.01523,
title = {A Blackbox Model Is All You Need to Breach Privacy: Smart Grid Forecasting Models as a Use Case},
author = {Hussein Aly and Abdulaziz Al-Ali and Abdullah Al-Ali and Qutaibah Malluhi},
journal= {arXiv preprint arXiv:2309.01523},
year = {2023}
}