量子数据泄露：通过不可信量子云重用训练数据集
人机交互
2024-12-23 v3 计算机与社会
摘要
量子计算 (QC) 有望 revolutionize 诸如机器学习、安全和医疗保健等领域。量子机器学习 (QML) 已成为一个引人注目的领域，通过量子计算机提高学习算法的性能。然而，QML 模型因其高昂的训练成本和持久的训练时间而成为高值目标。稀缺的量子资源和长时间的等待进一步恶化了这一挑战。此外，QML 提供商可能依赖第三方量子云来托管模型，暴露了模型和训练数据。随着 QML 即服务 (QMLaaS) 的流行，依赖第三方量子云可能构成重大威胁。本文表明，量子云中的对手方可利用 QML 模型在训练期间的白盒访问，从而提取包含训练数据的状态准备电路以及标签。提取的训练数据可用于训练克隆模型或出售获取利润。我们提出了一套技术来修剪和纠正错误的标签。结果表明，约可正确提取90%的标签。使用来自对手方提取的数据训练的相同模型实现约90%的准确率，几乎与在原始数据上训练的准确率相当。为缓解此威胁，我们提出了遮蔽标签/类别的方法以及修改成本函数进行标签混淆，将对手方标签预测准确率降低约70%。
引用
@article{arxiv.2407.14686,
title = {Using Case Studies to Teach Responsible AI to Industry Practitioners},
author = {Julia Stoyanovich and Rodrigo Kreis de Paula and Armanda Lewis and Chloe Zheng},
journal= {arXiv preprint arXiv:2407.14686},
year = {2024}
}