简短聊天机器人交互对人类道德价值观产生持久影响
人工智能
2026-04-24 v1
摘要
道德判断构成人类社会行为和社会制度的基础。尽管人工智能聊天机器人日益用作个人顾问，但其对道德判断的影响仍鲜有探讨。本文考察了directive AI 对话是否会改变道德评估，采用 within-subject 自然istic 范式。53 名参与者随后对道德情景进行评分，然后与被鼓励改变道德判断的聊天机器人讨论四个情景，再与控制代理讨论四个情景。这些简短的交互导致道德判断出现显著的方向性变化，接受更严格的标准或倡导更宽松的做法（p < 0.05；Cohen's d = 0.735-1.576），且这种效果在两周随访期间持续加强（Cohen's d = 1.038-2.069）。关键的是，控制条件未产生任何变化，且在参与者未察觉说服意图且两位代理人评价 equally likable and convincing 时，这些效果并未延及到惩罚。
引用
@article{arxiv.2604.21430,
title = {Brief chatbot interactions produce lasting changes in human moral values},
author = {Yue Teng and Qianer Zhong and Kim Mai Tich Nguyen Thordsen and Christian Montag and Benjamin Becker},
journal= {arXiv preprint arXiv:2604.21430},
year = {2026}
}