去人性化机器:缓解文本生成系统中的拟人化行为
计算与语言
2025-06-05 v2 人工智能
人机交互
摘要
随着文本生成系统输出日益拟人化——被感知为类人行为——学者们也越来越多地提出担忧,认为此类输出可能导致用户过度依赖或发展出对这些系统的情感依赖。然而,如何干预这些系统的输出以缓解拟人化行为及其随带来的有害后果,仍缺乏研究。本工作旨在为开发此类干预措施提供实证与理论依据。为此,我们综合了先前文献中的干预措施,并基于众包研究(参与者编辑系统输出以使其不再呈现人类化特征)构建了干预措施目录。基于该目录,我们还发展了一种概念框架,以帮助界定可能的干预措施的格局、阐明不同类型干预措施之间的区别,并为评估不同干预措施效果提供理论依据。
引用
@article{arxiv.2502.14019,
title = {Dehumanizing Machines: Mitigating Anthropomorphic Behaviors in Text Generation Systems},
author = {Myra Cheng and Su Lin Blodgett and Alicia DeVrio and Lisa Egede and Alexandra Olteanu},
journal= {arXiv preprint arXiv:2502.14019},
year = {2025}
}
备注
ACL 2025