FiMMIA：扩展语义扰动基方法的成员推断跨模态框架
机器学习
2025-12-03 v1
摘要
成员推断攻击 (MIA) 旨在确定特定数据点是否包含在目标模型的训练集中。尽管已developed众多用于检测大型语言模型 (LLM) 数据污染的方法，但其在多模态大型语言模型 (MLLM) 上的表现不足，因为多模态组件适应和跨多个输入可能引入分布偏移。在本工作中，我们调查了多模态成员推断并解决了两个问题：首先，通过识别现有数据集中的分布偏移，其次，通过发布扩展的基线管道来检测它们。我们还推广了针对 MLLM 的扰动基于成员推断方法并发布 \textbf{FiMMIA} -- 一个模块化 \textbf{F}ramework for \textbf{M}ultimodal \textbf{MIA}。我们的框架训练一个神经网络来分析目标模型在扰动输入上的行为，捕获成员与非成员之间的分布差异。在各种精调多模态模型上的全面评估表明，我们的扰动基于成员推断攻击在多模态领域具有有效性。
引用
@article{arxiv.2512.02786,
title = {FiMMIA: scaling semantic perturbation-based membership inference across modalities},
author = {Anton Emelyanov and Sergei Kudriashov and Alena Fenogenova},
journal= {arXiv preprint arXiv:2512.02786},
year = {2025}
}
备注
System demo track paper for EACL 2026