理解长期记忆对大型语言模型驱动的公共卫生干预聊天机器人中自我披露的影响
人机交互
2024-02-20 v1 人工智能
计算与语言
摘要
近期的大型语言模型(LLMs)通过开放式对话促进健康披露，为支持公共卫生监测提供了潜力，但很少在重复交互中保留关于个体的知识。为LLMs增加长期记忆(LTM)提供了改善参与度和自我披露的机会，但我们缺乏对LTM如何影响人们与LLM驱动的聊天机器人在公共卫生干预中互动的理解。我们通过分析1,252条通话记录和对九名用户的访谈，考察了CareCall（一个具有LTM的LLM驱动的语音聊天机器人）的案例。我们发现，LTM通过提供熟悉感增强了健康披露并促进了对聊天机器人的积极感知。然而，我们也观察到通过LTM促进自我披露的挑战，特别是在处理慢性健康状况和隐私问题方面。我们讨论了在LLM驱动的公共卫生监测聊天机器人中集成LTM的考虑因素，包括根据公共卫生目标仔细决定哪些话题需要被记住。
引用
@article{arxiv.2402.11353,
title = {Understanding the Impact of Long-Term Memory on Self-Disclosure with Large Language Model-Driven Chatbots for Public Health Intervention},
author = {Eunkyung Jo and Yuin Jeong and SoHyun Park and Daniel A. Epstein and Young-Ho Kim},
journal= {arXiv preprint arXiv:2402.11353},
year = {2024}
}
备注
Accepted to ACM CHI 2024 as a full paper