LLUMI：利用线上社区反馈提升LLM在精神健康支持方面的写作能力
人机交互
2026-05-29 v1 人工智能
计算与语言
计算机与社会
社会与信息网络
摘要
大型语言模型（LLM）在生成针对精神健康查询的支持性回复方面显示出潜力，但提高其有用性、同情心和安全性往往需要大量计算资源、专家输入和标记数据。同时，针对涉及敏感问题的交互部署专有、基于云端的模型会引发重要隐私和数据治理 concerns。为解决这一挑战，我们提出LLUMI方案，可在受保护环境内本机部署。LLUMI由两个互补组件组成：生成模型（GM），用于草拟针对精神健康查询的支持性回复；改进模型（IM），用于修订初始人工创作的回复。我们利用来自Reddit精神健康社区的反馈信号，依据社区认可模式（如upvote和downvote）构建所选-被拒回复对，用于监督式微调（SFT）和直接偏好优化（DPO）。我们进一步通过人类评估在可读性、同情心、连接、可操作性和安全性五个维度对LLUMI进行对齐。我们的结果表明，尽管依赖较小的开源模型而非专有云端GPT模型，LLUMI在语言分析和人类评估方面仍实现了相当水平的性能。这一发现表明，针对社区派生的偏好信号进行训练的开源模型，可支持高质量的精神健康支持，同时为敏感支持情境提供更具隐私保护的替代方案。
引用
@article{arxiv.2605.30273,
title = {LLUMI: Improving LLM Writing Assistance for Mental Health Support with Online Community Feedback},
author = {Jiwon Kim and Maya Ajit and Sherry Gong and Soorya Ram Shimgekar and Dong Whi Yoo and Eshwar Chandrasekharan and Koustuv Saha},
journal= {arXiv preprint arXiv:2605.30273},
year = {2026}
}