我的数据在你的 AI 中吗？应用于人脸生物识别的成员推断测试 (MINT)
计算机视觉与模式识别
2025-10-09 v4 人工智能
摘要
本文介绍了成员推断测试 (Membership Inference Test, MINT)，这是一种旨在经验性评估给定数据是否被用于 AI/ML 模型训练的新方法。具体而言，我们提出了两种 MINT 架构，旨在学习当被审计模型 (Audited Model) 暴露于其训练过程中使用的数据时出现的独特激活模式。这些架构基于多层感知机 (MLPs) 和卷积神经网络 (CNNs)。实验框架聚焦于具有挑战性的人脸识别任务，考虑了三种最先进的人脸识别系统。实验使用了六个公开可用的数据库，总共包含超过 2200 万张人脸图像。根据待测 AI 模型的上下文，考虑了不同的实验场景。我们提出的 MINT 方法取得了令人鼓舞的结果，准确率高达 90%，表明其具有识别 AI 模型是否已用特定数据进行训练的潜力。所提出的 MINT 方法可用于加强多种 AI 应用中的隐私和公平性，例如揭示敏感或私人数据是否被用于训练或微调大语言模型 (LLMs)。
引用
@article{arxiv.2402.09225,
title = {Is My Data in Your AI? Membership Inference Test (MINT) applied to Face Biometrics},
author = {Daniel DeAlcala and Aythami Morales and Julian Fierrez and Gonzalo Mancera and Ruben Tolosana and Javier Ortega-Garcia},
journal= {arXiv preprint arXiv:2402.09225},
year = {2025}
}
备注
11 pages main text + 2 pages references and 1 pages appendix