ChatGPT 的建议在有无理由支撑下均驱动道德判断
人机交互
2025-01-06 v1 计算机与社会
摘要
为什么用户会听从聊天机器人的道德建议？聊天机器人并非权威的道德顾问，但它能生成看似合理的论点。然而，我们在一项实验中发现，用户并不更容易听从有理由的建议而非无理由的建议。不过，如果我们将建议归因于道德顾问而非聊天机器人，情况同样如此。因此，建议似乎为用户提供了一种逃避道德困境的廉价方式。这是一个聊天机器人并未引发但加剧了的问题，因为它们使建议变得易于获取。我们得出结论，除了数字素养之外，还需要伦理素养来引导用户抵御来自聊天机器人的道德建议。
引用
@article{arxiv.2501.01897,
title = {ChatGPT's advice drives moral judgments with or without justification},
author = {Sebastian Kruegel and Andreas Ostermaier and Matthias Uhl},
journal= {arXiv preprint arXiv:2501.01897},
year = {2025}
}