针对基于机器学习的视网膜病变分类的白盒成员攻击
密码学与安全
2022-06-09 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
机器学习（ML）的进步极大改善了医学影像中基于 AI 的辅助诊断系统。然而，其基于收集个体特定医疗数据，引发了若干安全问题，尤其在隐私方面。即便图像所有者（如医院）在其信息系统中实施了严格的隐私保护规定，基于其图像训练的模型仍具有泄露风险。训练后的模型可能以如下方式被攻击者获取：1）白盒：可访问模型架构与参数；2）黑盒：攻击者仅能通过适当接口以自有输入查询模型。现有攻击方法包括：特征估计攻击（FEA）、成员推断攻击（MIA）、模型记忆攻击（MMA）与识别攻击（IA）。本工作聚焦于针对一个经训练用于从视网膜图像检测糖尿病性视网膜病变的模型的 MIA。糖尿病性视网膜病变是一种可导致糖尿病患者视力丧失与失明的症状。MIA 是判定某数据样本是否来自已训练 ML 模型的训练数据集的过程。从隐私角度，在我们的用例中，糖尿病性视网膜病变分类模型被交付给拥有图像及患者标识的合作伙伴，推断数据样本的成员状态可助于判断某患者是否参与了模型训练。
引用
@article{arxiv.2206.03584,
title = {White-box Membership Attack Against Machine Learning Based Retinopathy Classification},
author = {Mounia Hamidouche and Reda Bellafqira and Gwenolé Quellec and Gouenou Coatrieux},
journal= {arXiv preprint arXiv:2206.03584},
year = {2022}
}