人工智能系统透明度对用户数据共享意愿的影响：基于情景的实验
机器学习
2025-02-28 v1 人机交互
摘要
人工智能（AI）系统经常被用于在线服务中，基于大量数据集合为用户提供个性化体验。然而，AI系统可以以不同的方式进行设计，黑箱AI系统呈现为复杂的数据处理引擎，而白箱AI系统呈现为完全透明的数据处理器。因此，合理推断这些不同的设计选择也会影响用户的感知，从而影响其数据共享意愿。为此，我们进行了一项预注册的、基于情景的在线实验，包含240名参与者，调查了透明和非透明数据处理实体如何影响数据共享意愿。出乎意料的是，我们的结果显示，在数据共享意愿方面，透明度和非透明度的实体之间没有显著差异，这挑战了透明度增加数据共享意愿的观念。此外，我们发现，对AI的一般信任态度具有显著正面的影响，尤其是在透明AI条件下，而隐私关注并不显著影响数据共享决策。
引用
@article{arxiv.2502.20243,
title = {The Impact of Transparency in AI Systems on Users' Data-Sharing Intentions: A Scenario-Based Experiment},
author = {Julian Rosenberger and Sophie Kuhlemann and Verena Tiefenbeck and Mathias Kraus and Patrick Zschech},
journal= {arXiv preprint arXiv:2502.20243},
year = {2025}
}
备注
This is the author's version of the paper presented at the 19th International Conference on Wirtschaftsinformatik (WI 2024). The official published version is available at https://aisel.aisnet.org/wi2024/38/