大型语言模型中的生成单一文化
计算与语言
2024-07-03 v1 人工智能
摘要
我们提出“生成单一文化”这一概念，这是大型语言模型（LLMs）中观察到的一种行为特征，表现为模型输出多样性相对于可用训练数据有显著收窄。例如，对于获赞意见mixed的书籍，模型仅生成积极的书评。尽管在某些情况下，生成单一文化可能提升性能（例如，LLMs更常生成高效代码），但在其他情况下则可能造成危害（例如，LLMs拒绝分享多样化的观点）。随着LLMs日益被用于教育和网络搜索等高影响力领域，维护LLM输出多样性以确保长期保存多样事实和观点至关重要。我们通过分析书评和代码生成任务，实验性地展示了生成单一文化的普遍性，并发现简单的对策如改变采样或提示策略不足以缓解这一行为。此外，我们的结果表明，生成单一文化的根源可能嵌入LLM的对齐过程中，暗示需要发展能够保持或促进多样性的微调范式。
引用
@article{arxiv.2407.02209,
title = {Generative Monoculture in Large Language Models},
author = {Fan Wu and Emily Black and Varun Chandrasekaran},
journal= {arXiv preprint arXiv:2407.02209},
year = {2024}
}