PrivateXR：通过可解释AI引导的差分隐私防御扩展现实中的隐私攻击
密码学与安全
2025-12-19 v1 人工智能
人机交互
摘要
人工智能与XR技术的融合（AI XR）承诺在许多领域带来创新应用。然而，这些系统中使用的敏感数据（如眼动追踪）的性质引发了重大隐私担忧，因为攻击者可以以高成功率利用这些数据和模型通过成员推断攻击（MIA）和重识别（RDA）来推断和泄露个人信息。研究人员已提出各种技术来缓解此类隐私攻击，包括差分隐私（DP）。然而，AI XR数据集通常包含众多特征，统一应用DP可能对不相关的特征引入不必要的噪声、降低模型准确率并增加推理时间，限制了XR的实时部署。出于此动机，我们提出了一种结合可解释AI（XAI）和DP启用的隐私保护机制的新框架，以防御隐私攻击。具体而言，我们利用后验解释来识别AI XR模型中最具影响力的特征，并在推理过程中选择性地对这些特征应用DP。我们在三个最先进的AI XR模型和三个数据集（晕动症、情绪和活动分类）上评估了所提出的XAI引导的DP方法。结果表明，该方法在晕动症任务中将MIA和RDA成功率分别降低了多达43%和39%，同时利用Transformer模型保持了高达97%的模型准确率。此外，与传统DP方法相比，推理时间提高了约2倍。为了展示实用性，我们将XAI引导的DP AI XR模型部署在HTC VIVE Pro头戴设备上，并开发了一个用户界面（UI），即PrivateXR，允许用户在接收实时任务预测的同时调整隐私级别（如低、中、高），在XR游戏过程中保护用户隐私。
引用
@article{arxiv.2512.16851,
title = {PrivateXR: Defending Privacy Attacks in Extended Reality Through Explainable AI-Guided Differential Privacy},
author = {Ripan Kumar Kundu and Istiak Ahmed and Khaza Anuarul Hoque},
journal= {arXiv preprint arXiv:2512.16851},
year = {2025}
}
备注
Published in the IEEE ISMAR 2025 conference