迈向机器人与人工智能拟人化欺骗层级框架
人机交互
2026-04-20 v1 计算机与社会
摘要
本文提出了一个关于拟人化欺骗使用的初步框架草案，此处将其定义为在自主系统设计中误导用户产生类人功能可供性的行为。其目标是促进人机交互和人机交互研究人员以及行业从业者进行反思，思考其用例中拟人化设计的层级，这些层级应满足：a) 功能上必要，b) 社会层面适当，c) 伦理上可允许。通过回顾人机交互和人机交互中有关欺骗的相关文献，我们提出了一个包含四个拟人化欺骗层级的框架。这些层级由三个因素定义和区分：类人性、能动性和自我性。每个层级的示例用例说明了围绕其功能、社会和伦理可允许性的考量。随后，我们展示了该框架如何适用于先前关于说服性机器人的工作。我们希望促进一种关于设计中的拟人化欺骗的平衡观点，这种观点既不应天真（例如，作为默认设置），也不应具有剥削性（例如，为了经济利益）。
引用
@article{arxiv.2604.15418,
title = {Towards A Framework for Levels of Anthropomorphic Deception in Robots and AI},
author = {Franziska Babel and Shane Saunderson and Shalaleh Rismani},
journal= {arXiv preprint arXiv:2604.15418},
year = {2026}
}