面向可信 AI：洞察 LLM 野外用户报告风险
计算机与社会
2025-09-12 v1 人机交互
摘要
虽然大型语言模型 (LLM) 正快速融入日常生活，但关于其风险的研究往往仍基于实验室，与用户在“野外”所遇到的问题脱节。虽然近期的 HCI 研究开始探索这些用户可见的风险，但通常仅聚焦于单一的 LLM 对话机器人如 ChatGPT，或仅关注单一风险如隐私。为获得对多风险的全面理解，本文通过 NIST 的 AI 风险管理框架，对 Reddit 上的七个主要 LLM 对话机器人进行在线讨论分析。我们发现，用户报告的风险分布不均且平台特定。虽然“有效可靠”风险最常被提及，但每个产品也呈现独特的“风险指纹”；例如，用户讨论将 GPT 与“安全”和“公平”问题关联，Gemini 与“隐私”关联，Claude 与“安全与韧性”风险关联。此外，这些风险的性质随其出现频率而异：较少出现的风险如“可解释性”和“隐私”表现为细微的用户权衡，而更常见的风险如“公平性”则以直接的个人伤害形式出现。我们的发现揭示了系统中心研究报告的风险与用户报告的风险之间的差距，凸显了需要以用户为中心的方法，以支持用户在日常使用 LLM 对话机器人中的需求。
引用
@article{arxiv.2509.08912,
title = {Towards Trustworthy AI: Characterizing User-Reported Risks across LLMs "In the Wild"},
author = {Lingyao Li and Renkai Ma and Zhaoqian Xue and Junjie Xiong},
journal= {arXiv preprint arXiv:2509.08912},
year = {2025}
}