中文

作为知识生成中不确定性演化的函数的信任校准:一项综述

人机交互 2022-09-12 v1 人工智能

摘要

在设计稳健的可视分析系统时,用户信任是一个关键考量,这类系统能够引导用户得出合理可靠的结论,尽管存在由人、机器和数据源引入的不可避免偏差及其他不确定性,它们共同构成了知识浮现的画布。经研究考量会出现大量因素,这些因素带来了相当大的复杂性,并加剧了我们对于信任关系如何在可视分析系统中演化的理解,正如其在智能社会技术系统中那样。然而,可视分析系统本质上并不会引发与其较简单同类完全相同的现象,这些现象也不一定属于完全相同的类型。无论如何,两个应用领域都呈现出信任需求产生的相同根本原因:不确定性与风险承担。此外,可视分析系统比那些(传统上)在处理过程中往往封闭、不接受直接人类输入与指导的智能系统更甚,其受到大量认知偏差的影响,这些偏差进一步加剧了对可能侵蚀用户信心并最终影响对系统信任的不确定性的考量。本文中我们认为,要理解用户对可视分析系统的信任如何在其生命周期中演化,必须考量从数据源经信息提取与假设检验全过程的不确定性传播;并且分析人员对可视化参数的选择为我们提供了一种简单手段,用以捕捉不确定性与认知偏差之间的交互,该交互是分析人员在评估解释时所执行搜索任务属性的函数。我们抽样了来自可视分析、人类认知理论与不确定性领域的广泛文献横截面,并尝试综合出一个有用的视角。

关键词

引用

@article{arxiv.2209.04388,
  title  = {Trust Calibration as a Function of the Evolution of Uncertainty in Knowledge Generation: A Survey},
  author = {Joshua Boley and Maoyuan Sun},
  journal= {arXiv preprint arXiv:2209.04388},
  year   = {2022}
}