Robots-Dont-Cry：理解对话系统中虚假拟人化话语
计算与语言
2022-10-25 v1
摘要
对话系统通常被设计或训练为输出类人响应。然而，某些响应对于机器而言不可能真实地说出（例如“那部电影让我哭了”）。高度拟人化的响应可能使用户感到不适，或隐式地欺骗他们以为正在与人类交互。我们收集了人类对从9个不同数据源采样的约900个双轮对话可行性的评分。评分针对两种假设的机器形态：未来主义人形机器人和数字助手。我们发现，对于某些常用于训练对话系统的数据源，20-30%的话语不被认为机器可以说出。评分受机器形态的影响甚微。我们探讨了这些评分的定性与定量原因。最后，我们构建了分类器并探索建模配置如何影响输出的合规性，并讨论了构建更少虚假拟人化对话系统的启示。
引用
@article{arxiv.2210.12429,
title = {Robots-Dont-Cry: Understanding Falsely Anthropomorphic Utterances in Dialog Systems},
author = {David Gros and Yu Li and Zhou Yu},
journal= {arXiv preprint arXiv:2210.12429},
year = {2022}
}
备注
EMNLP 2022