对NLP中幻觉问题的视角与挑战的审计
计算与语言
2024-09-17 v2 人工智能
摘要
我们通过对NLP研究中103篇出版物的批判性审查，审计了同行评审文献中如何描述大型语言模型（LLMs）中的幻觉现象。通过对文献的审查，我们发现NLP领域中对“幻觉”这一术语缺乏共识。此外，为补充我们的审计，我们对171名来自NLP和AI领域的从业者进行了一项调查，以捕捉对幻觉的不同看法。我们的分析呼吁在NLP中建立关于幻觉的明确定义和框架，并指出了潜在的挑战，而我们的调查输入则提供了对幻觉在社会中的影响和后果的主题性理解。
引用
@article{arxiv.2404.07461,
title = {An Audit on the Perspectives and Challenges of Hallucinations in NLP},
author = {Pranav Narayanan Venkit and Tatiana Chakravorti and Vipul Gupta and Heidi Biggs and Mukund Srinath and Koustava Goswami and Sarah Rajtmajer and Shomir Wilson},
journal= {arXiv preprint arXiv:2404.07461},
year = {2024}
}