评估医学影像任务中窃取专有模型的风险
图像与视频处理
2025-06-25 v1 密码学与安全
计算机视觉与模式识别
摘要
深度学习在医学影像应用中的成功推动了多家公司在诊断工作流程中部署专有模型，提供增值服务。尽管模型权重对保护服务提供方的知识产权而言是受保护的，但这些模型仍面临窃取攻击（Model Stealing, MS），即对手通过查询代理数据集获取预测结果，再基于这些预测训练劫持模型。尽管此类攻击在通用视觉任务中已有广泛研究，但医学影像模型的脆弱性尚未得到充分探讨。本文在对手缺乏 victim 模型训练数据且查询预算有限的现实条件下，考察了黑盒医学影像模型的MS攻击风险。我们证明，对手可通过公开数据集有效执行MS攻击。为提升有限查询预算下的MS能力，我们提出一种称为QueryWise的两步窃取方法。该方法利用来自代理分布的无标签数据训练劫持模型，而无需额外查询。针对肝胆癌和COVID-19分类两个医学影像模型进行评估，实验结果证实了所提攻击方法的有效性。源代码已公开于https://github.com/rajankita/QueryWise。
引用
@article{arxiv.2506.19464,
title = {Assessing Risk of Stealing Proprietary Models for Medical Imaging Tasks},
author = {Ankita Raj and Harsh Swaika and Deepankar Varma and Chetan Arora},
journal= {arXiv preprint arXiv:2506.19464},
year = {2025}
}
备注
Accepted to MICCAI 2024