评估Apple Intelligence写作工具在应对基于大语言模型推理攻击时的隐私保护性能：来自早期数据集的见解
机器学习
2025-06-05 v1 密码学与安全
摘要
利用大型语言模型（LLM）从文本中推断情绪以用于恶意目的的行为（即情绪推理攻击）对用户隐私构成了重大威胁。在本文中，我们研究了集成于iPhone、iPad和MacBook中的Apple Intelligence写作工具通过文本修改（如重写和语气调整）来缓解这些风险的潜力。通过为此目的开发早期新颖数据集，我们实证评估了不同文本修改如何影响LLM检测。这一能力表明Apple Intelligence写作工具作为隐私保护机制具有巨大潜力。我们的研究为未来能够动态中和敏感情绪内容以增强用户隐私的自适应重写系统奠定了基础。据我们所知，本研究首次在隐私保护语境下对Apple Intelligence文本修改工具进行了实证分析，总体目标是开发设备端、以用户为中心的隐私保护机制，以保护部署系统免受基于LLM的高级推理攻击。
引用
@article{arxiv.2506.03870,
title = {Evaluating Apple Intelligence's Writing Tools for Privacy Against Large Language Model-Based Inference Attacks: Insights from Early Datasets},
author = {Mohd. Farhan Israk Soumik and Syed Mhamudul Hasan and Abdur R. Shahid},
journal= {arXiv preprint arXiv:2506.03870},
year = {2025}
}