透过窥镜：企业 AI 知识系统中的透明度影响与挑战
计算机与社会
2025-03-04 v4 人工智能
人机交互
摘要
知识无法与人分离。随着 AI 知识系统挖掘海量的工作相关数据，被提取和呈现的知识与创造和使用它的人有着内在联系。当利用从数据中学习的预测算法来连接知识和人时，知识提取和呈现中的不准确可能导致不成比例的危害，影响个人在工作中如何看待彼此以及如何看待自己。在本文中，我们对此类系统中的透明度要求和影响进行了反思性分析。我们进行了多学科文献综述，以了解透明度在工作场所环境中的影响，引入“窥镜”隐喻将 AI 知识系统概念化为反映和扭曲的系统，从而扩展我们对透明度要求、影响和挑战的视野。我们将透明度表述为塑造不同观看方式的关键中介，包括“看透”系统（揭示其能力、局限性和行为）和“透过”系统观看（塑造员工对自己贡献及组织内其他人的感知）。认识到这些系统的社会技术性质，我们确定了实现 AI 知识系统价值所需的三个透明度维度，即系统透明度、程序透明度和结果透明度。我们讨论了阻碍这些形式透明度实施的关键挑战，揭示了更广泛的社会技术差距，并突出了未来计算机支持协同工作 (CSCW) 研究的方向。
引用
@article{arxiv.2401.09410,
title = {Through the Looking-Glass: Transparency Implications and Challenges in Enterprise AI Knowledge Systems},
author = {Karina Cortiñas-Lorenzo and Siân Lindley and Ida Larsen-Ledet and Bhaskar Mitra},
journal= {arXiv preprint arXiv:2401.09410},
year = {2025}
}