LLM 推断何时可被接受？用户对推断出的个人信息的反应与控制偏好

询问 ChatGPT 关于度假规划的问题，它可能会推断出你的收入。询问它关于药物的问题，它可能会推断出你的病史。由于此类推断可能会暴露超出用户意图透露的信息，先前的研究认为它们是基于 LLM 系统的一项决定性隐私风险。然而，先前的工作大多表明 LLM 能够做出可能构成侵犯的推断，而没有研究用户如何体验这些推断，也没有探讨用户可能希望对其使用施加何种控制。我们构建了反思层（Reflective Layer），这是一个可视化工具，能够从用户自身的 ChatGPT 历史记录中展示未声明的推断示例，并在一项包含 18 名常规 ChatGPT 用户的混合方法研究中使用该工具，评估了从他们自身对话中展示的 215 项推断。与直觉相反，参与者的反应更多是好奇和兴趣，而非痛苦和担忧。当推断被认为歪曲了用户或与预期用途不符时，才会产生不适感。与平台提供商相比，参与者对广告商和第三方应用使用这些推断的接受度明显更低。这些发现表明，LLM 推断的可接受性不仅取决于其内容，还取决于围绕其如何生成、在平台内保留以及向平台外传输的情境敏感规范。