LLM 能否从聊天记录中推断对话智能体用户的人格特质？
计算与语言
2026-05-05 v2 人工智能
密码学与安全
计算机与社会
摘要
敏感信息（例如关于个人人格特质的知识）可能被滥用于影响行为（例如通过个性化消息）。为了评估在多大程度上可以从用户与基于 LLM 的对话智能体的交互中推断出个人人格，我们分析并量化了使用对话智能体相关的隐私风险。我们收集了来自 N=668 名参与者的实际 ChatGPT 日志，包含 62,090 次单独对话，并报告了关于不同类型共享数据和使用场景的统计数据。我们微调了 RoBERTa-base 文本分类模型，以从对话智能体交互中推断人格特质。研究结果表明，这些模型在多种情况下实现了优于随机猜测的准确率（三元分类）的特质推断。例如，对于外向性，在关于人际关系和个人反思的交互上，准确率相对于基线提升了 +44%。本研究强调了与对话智能体的交互如何带来隐私风险，并提供了与不同类型交互相关风险水平的细粒度见解。
引用
@article{arxiv.2604.19785,
title = {Can LLMs Infer Conversational Agent Users' Personality Traits from Chat History?},
author = {Derya Cögendez and Verena Zimmermann and Noé Zufferey},
journal= {arXiv preprint arXiv:2604.19785},
year = {2026}
}
备注
Correction of table 1 caption