导航算法不透明性：半自主车辆中的民间理论与用户主体性
人机交互
2026-02-10 v1
摘要
随着半自主车辆（AV）的普及，驾驶员必须与决策过程不透明的人工智能系统协作。本研究考察了驾驶员如何发展民间理论来解释与预期不符的算法行为。通过对美国内 16 名驾驶员进行半结构化访谈，调查他们构建的解释框架、在系统异常情况下采用的策略以及与控制交接和反馈机制的经历。我们的发现表明，驾驶员发展出精细的民间理论——常使用拟人化隐喻描述系统“看到”“犹豫”或“过载”——但缺乏验证这些理论或在算法治理中有意义参与的资源。我们识别了算法不透明性在复杂交叉口、恶劣天气和农村环境中的具体场景。当前的AV设计将驾驶员定位为被动的数据源，导致问责缺口，削弱信任与安全。基于批判性数据研究和算法问责文献，我们提出一种参与式算法治理框架，为驾驶员提供AI决策的透明度以及贡献系统改进的有意义渠道。该研究促进了理解用户如何在安全关键情境中导航数据化社会技术系统的能力。
引用
@article{arxiv.2602.07312,
title = {Navigating Algorithmic Opacity: Folk Theories and User Agency in Semi-Autonomous Vehicles},
author = {Yehuda Perry and Tawfiq Ammari},
journal= {arXiv preprint arXiv:2602.07312},
year = {2026}
}