人工智能性能、风险感知与信任对深度伪造检测AI系统人类依赖性的影响
人机交互
2025-08-05 v1
摘要
人工智能生成的合成图像、音频和视频现已可以被创建和编辑。特别是，合成数据的恶意用途引发了对潜在对网络安全、个人隐私和公共信任的伤害的关注。虽然存在基于AI的检测工具可帮助识别合成内容，但其局限性常常导致用户对其信任不足和混淆真实与虚假内容。本研究examines人工智能性能在影响深度伪造检测中人类信任和决策的作用。通过一项涉及400名参与者的在线人类主观实验，我们检查了不同AI性能如何影响人类对AI的信任和依赖。我们的发现表明，参与者如何根据其感知风险和AI提供的预测结果来校准其对AI的依赖。这些见解有助于开发更透明和可解释的人工智能系统，以更好地支持日常用户缓解合成媒体的伤害。
引用
@article{arxiv.2508.01906,
title = {Effect of AI Performance, Risk Perception, and Trust on Human Dependence in Deepfake Detection AI system},
author = {Yingfan Zhou and Ester Chen and Manasa Pisipati and Aiping Xiong and Sarah Rajtmajer},
journal= {arXiv preprint arXiv:2508.01906},
year = {2025}
}