ChatGPT 的道德权威
计算机与社会
2023-01-19 v1 人工智能
人机交互
机器学习
摘要
ChatGPT 不仅聊天有趣，它还能搜索信息、回答问题并提供建议。若能提供一致的道德建议，它或可改善常持矛盾道德信念的用户的道德判断与决策。不幸的是，ChatGPT 作为道德顾问表现出高度不一致。尽管如此，我们在一项实验中发现，即使用户知道建议来自聊天机器人，它仍会影响其道德判断，且他们低估了自己受影响的程度。因此，ChatGPT 威胁到而非改善用户的判断。这些发现引出了如何确保负责任地使用 ChatGPT 及类似 AI 的问题。透明度常被吹捧但似乎无效。我们提议通过培训提升数字素养。
引用
@article{arxiv.2301.07098,
title = {The moral authority of ChatGPT},
author = {Sebastian Krügel and Andreas Ostermaier and Matthias Uhl},
journal= {arXiv preprint arXiv:2301.07098},
year = {2023}
}