计算机说“不”：反对共情对话 AI 的理由
计算与语言
2023-07-07 v2 人机交互
摘要
情感是人类认知不可分割的一部分，它们不仅引导我们对世界的理解，也引导我们在其中的行动。因此，我们究竟是抚慰还是助长某种情绪，并非无足轻重。近期对话 AI 的研究聚焦于以共情回应用户，在没有真实依据的情况下确认并抚慰其情绪。这种由 AI 辅助的情绪调节可能对用户和社会产生负面后果，趋向于一种仅以“负面”情绪缺失来定义的单一化幸福。我们认为必须仔细考量是否以及该如何回应用户的情绪。
引用
@article{arxiv.2212.10983,
title = {Computer says "No": The Case Against Empathetic Conversational AI},
author = {Alba Curry and Amanda Cercas Curry},
journal= {arXiv preprint arXiv:2212.10983},
year = {2023}
}
备注
Accepted to Findings of the ACL 2023