P-MIA: 基于轮廓的认知诊断模型成员推断攻击
密码学与安全
2025-11-10 v1 人工智能
摘要
认知诊断模型(CDMs)是现代智能教育平台中构建细粒度学习者轮廓的关键工具。然而，这些模型是在敏感学生数据上训练的，引发了显著的隐私 concerns。尽管成员推断攻击(MIA)在 various领域内都有所研究，但其应用于CDMs仍是一个关键的研究空白，使其隐私风险无法量化。本文是首次系统性地调查MIA针对CDMs。我们引入一种新型且现实的灰箱威胁模型，利用这些平台的可解释性特征，其中模型的内部知识状态向量通过诸如雷达图等可视化方式向用户暴露。我们证明，这些向量可以从这些可视化中准确地逆向工程，从而创建出强大的攻击面。基于此威胁模型，我们提出了一种基于轮廓的MIA(P-MIA)框架，利用模型最终预测概率和暴露的内部知识状态向量作为特征。针对三组真实数据集中的主要CDMs进行大量实验，显示我们的灰箱攻击显著优于标准的黑箱基线。此外，我们展示了P-MIA作为审计工具的实用性，通过成功评估机器忘却技术的有效性并揭示其局限性。
引用
@article{arxiv.2511.04716,
title = {P-MIA: A Profiled-Based Membership Inference Attack on Cognitive Diagnosis Models},
author = {Mingliang Hou and Yinuo Wang and Teng Guo and Zitao Liu and Wenzhou Dou and Jiaqi Zheng and Renqiang Luo and Mi Tian and Weiqi Luo},
journal= {arXiv preprint arXiv:2511.04716},
year = {2025}
}