真理机器: 在AI语言模型中综合真实性
计算机与社会
2023-01-31 v1 人工智能
摘要
随着AI技术被部署于医疗、学术、人力资源、法律等诸多领域,它们已成为事实上的真理仲裁者。但真理极具争议,存在许多不同的定义与路径。本文探讨AI系统中对真理的争夺及迄今的普遍回应。继而考察大型语言模型InstructGPT中真理的生产,凸显数据抓取、模型架构与社会反馈机制如何将各异的真实性理解交织在一起。我们将此表现概念化为真理的操作化,即不同且常冲突的主张被平滑综合并自信地呈现为真理陈述。我们认为,这些相同的逻辑与不一致性在其继任者ChatGPT中重现,重申真理是一个非平凡问题。我们提出,丰富社会性与增厚“现实”是增强未来语言模型真理评估能力的两个有前景的向量。然而,我们最后退一步将AI的真理言说视为一种社会实践:作为听众的我们渴望何种“真理”?
引用
@article{arxiv.2301.12066,
title = {Truth Machines: Synthesizing Veracity in AI Language Models},
author = {Luke Munn and Liam Magee and Vanicka Arora},
journal= {arXiv preprint arXiv:2301.12066},
year = {2023}
}
备注
20 pages, 3 figures