具有双重焦点的 AI 代表：确保隐私与战略性自我披露
人工智能
2025-07-14 v3 计算机与社会
摘要
基于大型语言模型（LLM）的 AI 代表正在日益被用于代表用户，通过对话界面协助他们完成广泛的任务。尽管具有优势，但在涉及社交互动的场景中，存在隐私泄露的潜在风险。虽然现有研究通过限制 AI 代表获取敏感用户信息来保护隐私，但许多社交场景需要披露私细节以实现所需的社交目标，因而需要在隐私保护与披露之间取得平衡。为此，我们首先进行一项先行研究，探讨用户对不同社交关系和任务情境下 AI 代表的感知，然后提出一种新型 AI 代表系统，实现隐私导向的自我披露。我们的使用者研究表明，所提出的 AI 代表能够战略性地保护隐私，为其在多样化和动态的社交互动中应用铺平了道路。
引用
@article{arxiv.2409.17642,
title = {AI Delegates with a Dual Focus: Ensuring Privacy and Strategic Self-Disclosure},
author = {Zhiyang Zhang and Xi Chen and Fangkai Yang and Xiaoting Qin and Chao Du and Xi Cheng and Hangxin Liu and Qingwei Lin and Saravan Rajmohan and Dongmei Zhang},
journal= {arXiv preprint arXiv:2409.17642},
year = {2025}
}