评估 LGBTQ+ 人群使用基于大型语言模型的聊天机器人进行心理健康支持的经历
人机交互
2024-02-15 v1
摘要
LGBTQ+ 个体越来越多地转向由大型语言模型 (LLMs) 驱动的聊天机器人以满足其心理健康需求。然而，很少有研究探讨这些聊天机器人是否能为这一群体提供充分且安全的定制支持。我们采访了 18 名 LGBTQ+ 参与者和 13 名非 LGBTQ+ 参与者，了解他们使用基于 LLM 的聊天机器人满足心理健康需求的经历。LGBTQ+ 参与者依赖这些聊天机器人获得心理健康支持，这可能是因为现实生活中缺乏支持。值得注意的是，虽然 LLM 提供即时支持，但它们经常无法把握 LGBTQ 特定挑战的细微差别。虽然微调 LLM 以解决 LGBTQ+ 需求可能是朝着正确方向迈出的一步，但这并非万能药。更深层次的问题根植于社会歧视。因此，我们呼吁未来的研究人员和设计者超越单纯的技术改进，倡导采取整体策略来对抗强加于 LGBTQ+ 社区的社会偏见。
引用
@article{arxiv.2402.09260,
title = {Evaluating the Experience of LGBTQ+ People Using Large Language Model Based Chatbots for Mental Health Support},
author = {Zilin Ma and Yiyang Mei and Yinru Long and Zhaoyuan Su and Krzysztof Z. Gajos},
journal= {arXiv preprint arXiv:2402.09260},
year = {2024}
}