私密而社交：LLM聊天机器人如何支持与挑战饮食失调恢复
人机交互
2024-12-17 v1 机器学习
摘要
饮食失调(ED)是需要长期管理和支持的复杂心理健康状况。基于大语言模型(LLM)的聊天机器人的最新进展为帮助个人获得即时支持提供了潜力。然而，在ED等敏感情境下，其可靠性和安全性仍令人担忧。我们探讨了使用基于LLM的聊天机器人进行ED恢复的机遇和潜在危害。我们观察了26名ED参与者与旨在支持ED恢复的基于LLM的聊天机器人WellnessBot在10天内的互动。我们发现，参与者通过与聊天机器人讨论ED相关故事而感到在恢复中获得了力量，这提供了一种个人化的社交途径。然而，我们也识别出有害的聊天机器人回复，尤其是针对ED患者的回复，部分原因是参与者对聊天机器人可靠性的不加质疑的信任，导致这些回复未被注意到。基于这些发现，我们为ED管理中安全有效的基于LLM的干预措施提供了设计启示。
引用
@article{arxiv.2412.11656,
title = {Private Yet Social: How LLM Chatbots Support and Challenge Eating Disorder Recovery},
author = {Ryuhaerang Choi and Taehan Kim and Subin Park and Jennifer G Kim and Sung-Ju Lee},
journal= {arXiv preprint arXiv:2412.11656},
year = {2024}
}