AI 模仿与人类尊严：将聊天机器人使用视为对自尊的侵犯
计算机与社会
2025-08-08 v1 人工智能
摘要
本文探讨了人类与 AI 驱动的聊天机器人的交互如何可能侵犯人类尊严。当前的聊天机器人由大型语言模型驱动，能够模仿人类的语言行为，但缺乏真正人际尊重所必需的道德和理性能力。人类倾向于将聊天机器人拟人化。事实上，聊天机器人似乎被刻意设计为引发这种反应。因此，人类对待聊天机器人的行为通常类似于道德主体之间互动的典型行为。基于第二人称的关系性尊严解释，我们主张以这种方式与聊天机器人交互与用户的尊严不相容。我们表明，由于第二人称尊重建立在第二人称权威的相互承认之上，鉴于缺乏互惠性，以传达第二人称尊重的方式对待聊天机器人必然会在道德上以有问题的形式落空。因此，此类聊天机器人交互构成了对自尊的微妙但重大的侵犯：自尊是我们出于对自身尊严的义务而应展现的尊重。我们通过讨论四个实际的聊天机器人用例（信息检索、客户服务、咨询和陪伴）来说明这一点，并提出日益增加的参与此类聊天机器人交互的社会压力对人类尊严构成了一个迄今未被充分认识的威胁。
引用
@article{arxiv.2503.05723,
title = {AI Mimicry and Human Dignity: Chatbot Use as a Violation of Self-Respect},
author = {Jan-Willem van der Rijt and Dimitri Coelho Mollo and Bram Vaassen},
journal= {arXiv preprint arXiv:2503.05723},
year = {2025}
}