审计 LLM 照护支持角色：信息、指导、共情、倾听
人机交互
2026-05-29 v1 人工智能
计算与语言
计算机与社会
社会与信息网络
摘要
语言模型日益被用于非正式照护情境的对话式支持，交互往往超越信息检索：照护者寻求情感安慰、指导方针及帮助，同时面临不确定且关系复杂的照护决策。然而大多数安全评估在通用提示下评估模型行为，留下关键问题未被检视：模型的安全配置随其支持角色而变化吗？我们通过将四种基于社会支持理论经专家审核的支持角色（信息型Inform、指导型Coach、共情型Relate、倾听型Listen）具体化，并与两种基线控制（基础提示条件和检索增强生成RAG条件）进行比较来研究这一问题。我们在GPT-4o-mini、Llama-3.1-8B-Instruct和MedGemma-1.5-4b-it三种语言模型上，对5000来自阿尔兹海斯病及相关痴呆（ADRD）社区的真实世界查询进行评估。我们发现，LLM的支持角色系统性地影响交互风险的发生频率及构成。此外，人类评估研究揭示了感知质量与安全性之间的张力：更具指令性和信息导向的角色被评定为更有帮助且更可信，尽管其交互风险配置更高。我们发布约90,000条支持角色条件化模型响应及风险标注，作为生态学方法，为研究更安全的LLM中介对话式支持提供资源。
引用
@article{arxiv.2605.29473,
title = {Inform, Coach, Relate, Listen: Auditing LLM Caregiving Support Roles},
author = {Drishti Goel and Agam Goyal and Veda Duddu and Olivia Pal and Jeongah Lee and Qiuyue Joy Zhong and Violeta J. Rodriguez and Daniel S. Brown and Dong Whi Yoo and Ravi Karkar and Koustuv Saha},
journal= {arXiv preprint arXiv:2605.29473},
year = {2026}
}