使用大型语言模型模拟目标人群的信念和偏好
计算与语言
2024-04-01 v1 人工智能
机器学习
摘要
我们考虑对齐大型语言模型以模拟人类群体偏好的问题。对特定人群的信念、偏好和行为进行建模可用于多种应用，例如对新产品的模拟焦点小组、进行虚拟调查和测试行为干预，特别是对于昂贵、不切实际或不道德的干预。现有工作在使用LLM在不同背景下准确模拟人类行为方面取得了不同程度的成功。我们对两种著名的微调方法进行了基准测试和评估，并评估了生成的人群在匹配真实人类受访者对电动汽车偏好调查中的偏好的能力。我们根据模型匹配总体统计数据的能力以及匹配个体回答的能力来评估模型，并研究了温度在控制这两者之间权衡中的作用。此外，我们提出并评估了一种新的损失项，以改善模型在需要数值回答的响应上的性能。
引用
@article{arxiv.2403.20252,
title = {Using LLMs to Model the Beliefs and Preferences of Targeted Populations},
author = {Keiichi Namikoshi and Alex Filipowicz and David A. Shamma and Rumen Iliev and Candice L. Hogan and Nikos Arechiga},
journal= {arXiv preprint arXiv:2403.20252},
year = {2024}
}