大型语言模型作为信息来源：独特特征与低质量信息类型
人机交互
2025-11-06 v1
摘要
近期大型语言模型 (LLM) 的进展引起了公众和学术界对其生成低质量信息潜力的关注。虽然广泛认识到这是一种风险，但低质量信息仍是一个模糊定义的概念，人们对其在 LLM 输出中如何呈现或如何与传统信息来源不同鲜有了解。本研究聚焦于两个关键问题：LLM 生成的低质量信息有哪些类型，以及这些类型与人类生成的内容有何不同。我们对三个关键健康情境（疫苗、阿片类药物使用障碍和亲密伴侣暴力）中的公共卫生专业人士和有经验者进行了焦点小组，这些情境中质量信息至关重要，误导、偏见和不敏感等问题尤为突出。我们识别出 LLM 生成的低质量信息类型，以及与传统信息来源相比的 LLM 特有特征的一组特征。我们的发现表明，低质量信息超越了事实错误，包含了优先级错误和夸大等类型，并且 LLM 的特性本质上不同于以往技术。这项工作提供了关于 LLM 特有特征和低质量信息类型的分类框架，为未来理解 LLM 生成的低质量信息及其相关信息伤害的缓解提供了起点。我们呼吁就信息质量进行概念和方法论讨论，超越真实性，以应对新兴技术的特性和信息行为的演变动态。
引用
@article{arxiv.2511.03198,
title = {Large Language Models as Information Sources: Distinctive Characteristics and Types of Low-Quality Information},
author = {Jiawei Zhou and Amy Z. Chen and Darshi Shah and Laura M. Schwab-Reese and Munmun De Choudhury},
journal= {arXiv preprint arXiv:2511.03198},
year = {2025}
}