从二进制 groundedness 到支持关系:面向 AI 输出理解的读者中心分类法
人机交互
2026-04-10 v1
摘要
生成式 AI 工具常通过源文档回答问题,例如通过检索增强生成。当前的 groundedness 和幻觉评估主要将答案与其来源之间的关系框架化为二进制(答案要么受支持,要么不受支持)。然而,这掩盖了模型在将证据改写为答案时所执行的句法动作(例如,直接引语与改写)以及解释性动作(例如,归纳与演绎)。这限制了基准测试和面向用户的源头证明界面。我们提出构建一种面向读者的 grounding 框架,将生成语句与源文档之间的 support 关系作为一套分类。我们解释了如何从语言学和语言哲学的先行研究中合成该框架,并通过基准测试和人工标注协议进行评估。这种框架将使界面能够传递不仅指出某主张是否受支持,还能说明其支持方式。
引用
@article{arxiv.2604.08082,
title = {From Binary Groundedness to Support Relations: Towards a Reader-Centred Taxonomy for Comprehension of AI Output},
author = {Advait Sarkar and Christian Poelitz and Viktor Kewenig},
journal= {arXiv preprint arXiv:2604.08082},
year = {2026}
}
备注
Advait Sarkar, Christian Poelitz, and Viktor Kewenig. 2026. From Binary Groundedness to Support Relations: Towards a Reader-Centred Taxonomy for Comprehension of AI Output. ACM CHI 2026 Workshop on Science and Technology for Augmenting Reading (CHI '26 STAR) ACM CHI 2026 Workshop on Science and Technology for Augmenting Reading (CHI '26 STAR)