AI助手工具中拟人化特征的走查研究
人机交互
2025-02-25 v1
摘要
本文试图理解聊天机器人输出的拟人化特征，以及这些特征如何为人机交互提供话语框架。为此，我们探索了一种基于提示的走查方法，该方法包含两个阶段：（1）访谈式提示，以揭示聊天机器人的预期使用情境；（2）角色扮演式提示，以唤起日常使用场景和典型的聊天机器人输出。我们将该方法应用于四个不同的LLM聊天机器人，对其拟人化特征进行编目，发现拟人化既表现为主观语言，也表现为富有同情心的对话语气。我们还发现，提示中的社会情感线索会增加输出中拟人化表达的出现频率。我们认为，基于提示的走查方法成功地激发了LLM聊天机器人的社会角色表现，并引出了多种拟人化特征，使其在基于交互的算法危害研究中具有实用价值——在这些危害中，用户会将不恰当的社会角色投射到基于LLM的工具上。
引用
@article{arxiv.2502.16345,
title = {Walkthrough of Anthropomorphic Features in AI Assistant Tools},
author = {Takuya Maeda},
journal= {arXiv preprint arXiv:2502.16345},
year = {2025}
}