增长长尾：提升大型语言模型的输出多样性
计算与语言
2024-11-06 v1 计算机与社会
摘要
当需要多样性时，大型语言模型的输出有多多样？我们考察了各种模型对具有多个可能答案的问题的响应多样性，并将其与人类响应进行比较。我们的研究结果表明，模型的输出高度集中，反映了一种狭隘的主流“世界观”，而人类的响应则呈现出更长的长尾分布。我们研究了三种提升模型输出多样性的方法：1) 通过温度采样增加生成随机性；2) 提示模型从不同视角作答；3) 聚合多个模型的输出。这些措施的组合显著提升了模型的输出多样性，达到了人类的水平。我们讨论了这些发现对旨在保护文化多样性的AI政策的影响，文化多样性是民主社会结构的基本组成部分。
引用
@article{arxiv.2411.02989,
title = {Growing a Tail: Increasing Output Diversity in Large Language Models},
author = {Michal Shur-Ofry and Bar Horowitz-Amsalem and Adir Rahamim and Yonatan Belinkov},
journal= {arXiv preprint arXiv:2411.02989},
year = {2024}
}