一种自动化、可扩展的机器学习模型逆向评估流水线
密码学与安全
2025-09-05 v1
摘要
机器学习（ML）模型有潜力改变军事战场，这带来了将其快速集成到作战环境中的巨大外部压力。然而，众所周知，这些 ML 模型在模型部署流水线中容易受到多种对抗性攻击，这些攻击可能抵消战场优势。其中一个广泛的类别是隐私攻击（例如模型逆向），攻击者可以从模型中逆向工程出信息，例如其训练中使用的敏感数据。量化模型逆向攻击（MIA）风险的能力尚未得到充分研究，并且缺乏自动化的开发测试与评估（DT&E）工具和指标来量化 MIA 隐私泄露的有效性。当前的 DT&E 流程很困难，因为 ML 模型逆向结果可能难以被人类解释，在可解释时又具有主观性，并且难以在逆向质量方面进行量化。此外，由于需要评估的 ML 模型架构和数据模态众多，扩展 DT&E 流程具有挑战性。在这项工作中，我们提出了一种新颖的 DT&E 工具，用于量化 MIA 造成的数据隐私泄露风险，并引入了四个对抗性风险维度来量化隐私泄露。我们的 DT&E 流水线将逆向与视觉语言模型（VLM）相结合，以提高有效性，同时实现可扩展分析。我们使用多种 MIA 技术和配置用于零样本分类和图像描述任务的 VLM 来展示有效性。我们使用几种计算机视觉领域最先进的 MIA，在军事应用中典型的图像分类任务上对该流水线进行了基准测试。总的来说，我们的创新流水线通过以自动化方式提高隐私泄露分析的有效性和可扩展性，扩展了当前的模型逆向 DT&E 能力。
引用
@article{arxiv.2509.04214,
title = {An Automated, Scalable Machine Learning Model Inversion Assessment Pipeline},
author = {Tyler Shumaker and Jessica Carpenter and David Saranchak and Nathaniel D. Bastian},
journal= {arXiv preprint arXiv:2509.04214},
year = {2025}
}