超越PII：用户如何估计和缓解隐式LLM推断
人机交互
2025-09-16 v1 人工智能
摘要
大型语言模型（LLM）如ChatGPT能够从看似无害的文本中推断出个人属性，这引发了超越记忆数据泄露的隐私风险。虽然已有研究展示了这些风险，但关于用户如何估计和应对的方式鲜有了解。我们对240名美国参与者进行了调查，他们判断文本片段的推断风险，报告关切水平，并尝试重写以阻止推断。我们将他们的重写方式与ChatGPT和Rescriber（一种最新消毒工具）生成的重写进行比较。结果表明，参与者在预判推断方面困难重重，仅略好于随机 guessing。用户生成的重写在仅28%的情况下有效——优于Rescriber，但不如ChatGPT。我们检查了参与者的重写策略，发现虽然改写是最常见的策略，但也是最无效的；相反，抽象化和增加模糊性更为成功。我们的工作凸显了LLM交互中推断感知设计的重要性。
引用
@article{arxiv.2509.12152,
title = {Beyond PII: How Users Attempt to Estimate and Mitigate Implicit LLM Inference},
author = {Synthia Wang and Sai Teja Peddinti and Nina Taft and Nick Feamster},
journal= {arXiv preprint arXiv:2509.12152},
year = {2025}
}