大语言模型时代的真实性挑战
计算与语言
2026-03-03 v2 人工智能
机器学习
摘要
基于大语言模型（LLMs）的工具的出现，如 OpenAI 的 ChatGPT、微软的 Bing Chat 和谷歌的 Bard，引起了公众的极大关注。这些极其有用、听起来自然的工具标志着自然语言生成的重大进展，但它们表现出生成虚假、错误或误导性内容——通常被称为“幻觉”——的倾向。此外，LLMs 可能被用于恶意应用，例如大规模生成虚假但听起来可信的内容和档案。这对社会构成了重大挑战，可能导致用户被欺骗以及不准确信息的传播加剧。鉴于这些风险，我们探讨了事实核查人员、新闻机构以及更广泛的研究和政策社区所需的技术创新、监管改革和 AI 素养举措。通过识别风险、迫在眉睫的威胁以及一些可行的解决方案，我们力求阐明在生成式 AI 时代如何应对真实性的各个方面。
引用
@article{arxiv.2310.05189,
title = {Factuality Challenges in the Era of Large Language Models},
author = {Isabelle Augenstein and Timothy Baldwin and Meeyoung Cha and Tanmoy Chakraborty and Giovanni Luca Ciampaglia and David Corney and Renee DiResta and Emilio Ferrara and Scott Hale and Alon Halevy and Eduard Hovy and Heng Ji and Filippo Menczer and Ruben Miguez and Preslav Nakov and Dietram Scheufele and Shivam Sharma and Giovanni Zagni},
journal= {arXiv preprint arXiv:2310.05189},
year = {2026}
}
备注
Our article offers a comprehensive examination of the challenges and risks associated with Large Language Models (LLMs), focusing on their potential impact on the veracity of information in today's digital landscape