DREAM：黑盒模型的无领域限制属性逆向工程
机器学习
2023-07-21 v1 密码学与安全
摘要
深度学习模型在机器学习平台上部署时通常是黑盒。先前工作表明，目标黑盒神经网络的属性（例如卷积层数量）可通过一系列查询被暴露。存在一个关键局限：这些工作假设目标模型所用的训练数据集事先已知，并利用该数据集进行模型属性攻击。然而，现实中难以获取目标黑盒模型的训练数据集。因此，在这种情况下是否仍能揭示目标黑盒模型的属性值得怀疑。本文研究了一个新问题：无需目标模型训练数据集可用的、无领域限制的黑盒目标模型属性逆向工程（DREAM），并将该问题表述为分布外（OOD）泛化问题，从而提出一个通用且原则性的框架。借此，我们可以学习一个无领域限制的模型，逆向推断具有未知训练数据的目标黑盒模型的属性。这使得我们的方法成为少数能够优雅地应用于任意领域、具备强泛化能力的模型属性逆向工程方法之一。我们进行了广泛的实验研究，结果验证了所提方法相对于基线的优越性。
引用
@article{arxiv.2307.10997,
title = {DREAM: Domain-free Reverse Engineering Attributes of Black-box Model},
author = {Rongqing Li and Jiaqi Yu and Changsheng Li and Wenhan Luo and Ye Yuan and Guoren Wang},
journal= {arXiv preprint arXiv:2307.10997},
year = {2023}
}