妥协直觉：效用主义 vs. 契约论
计算与语言
2024-10-10 v1
摘要
在不同人们珍视不同事物的情境下，哪种妥协方法最为理想？目前在行为科学、社会科学、决策论、哲学以及人工智能开发等领域最常被接受的答案是简单地将与不同选项相关的效用相加，然后选择总和最大的解决方案。这一“效用主义”方法似乎是最显而易见、理论中性的解决之道。但有一个重要且常被忽视的备选方案：一种“契约论”方法，主张采用基于协议的方法来做决定。令人惊讶的是，没有任何研究直接比较这两种方法在直觉合理性上的表现。在本文中，我们系统地探讨了每种算法所提出的方案（即“效用求和”和契约主义的“纳什乘积”），采用将这些算法应用于社会决策情境中跨群体偏好聚合的范式。尽管效用求和是迄今为止聚合价值观的主导方法，但我们发现人们强烈倾向于采用契约主义算法所推荐的聚合方案。最后，我们将大型语言模型 (LLM) 的判断与我们（人类）参与者的判断进行比较，发现模型与人类偏好之间存在重要性不匹配。
引用
@article{arxiv.2410.05495,
title = {Self-rationalization improves LLM as a fine-grained judge},
author = {Prapti Trivedi and Aditya Gulati and Oliver Molenschot and Meghana Arakkal Rajeev and Rajkumar Ramamurthy and Keith Stevens and Tanveesh Singh Chaudhery and Jahnavi Jambholkar and James Zou and Nazneen Rajani},
journal= {arXiv preprint arXiv:2410.05495},
year = {2024}
}