ChatGPT 在金融歧视中的表现——与人类行为和期望不一致
人机交互
2024-06-25 v1
摘要
ChatGPT 颠覆了机器学习方法的应用，大幅降低了使用门槛。聊天机器人现在在各种不同场景中广泛使用。它们提供建议，协助编写源代码，或评估和总结来自各种来源的信息。然而，他们的作用不仅限于帮助人类；他们还可以承担如谈判或议价等任务。为理解 Chatbot 在议价情境中的影响，我们进行了 ultimatum game 的实验。在 ultimatum game 中，两个人类玩家交互：接收方决定是否接受来自提议方的货币报价。为阐明新的议价情境，我们让 ChatGPT 提出报价给一位人类玩家。在新设计中，我们变化接收方的财富水平。我们的结果表明，人类对人类和聊天机器人都有相同的信念。然而，这些结果在一个重要点上与这些信念相矛盾：人类偏好贫穷的接收方，正如人类所预期的那样，但 ChatGPT 偏好富有的接收方，而人类并未预期到这一点。这表明 ChatGPT 的回答与人类不一致，且人类未能预见这种差异。
引用
@article{arxiv.2406.16572,
title = {ChatGPT's financial discrimination between rich and poor -- misaligned with human behavior and expectations},
author = {Dmitri Bershadskyy and Florian E. Sachs and Joachim Weimann},
journal= {arXiv preprint arXiv:2406.16572},
year = {2024}
}