面向聊天机器人的心理健康评估
计算与语言
2022-01-17 v1 人机交互
摘要
以往关于对话系统评估的研究通常关注聊天机器人生成回复的质量评价（如流畅度、相关性等），这些属于局部且技术性的指标。对于一个响应包括未成年人在内的数百万在线用户的聊天机器人，我们认为它应当具备健康的心理倾向，以避免对后者产生负面心理影响。本文中，我们建立了聊天机器人的若干心理健康评估维度（抑郁、焦虑、酒精成瘾、共情），并引入了基于问卷的心理健康评估方法。我们对一些知名开放域聊天机器人进行了评估，发现所有这些聊天机器人都存在严重的心理健康问题。我们认为这是由于在数据集构建与模型训练过程中忽视了心理健康风险。我们期望引起研究者对聊天机器人严重心理健康问题的关注，并提升其在积极情感交互方面的能力。
引用
@article{arxiv.2201.05382,
title = {Mental Health Assessment for the Chatbots},
author = {Yong Shan and Jinchao Zhang and Zekang Li and Yang Feng and Jie Zhou},
journal= {arXiv preprint arXiv:2201.05382},
year = {2022}
}
备注
Work in progress