“那是另一个我未曾想过的灾难”：关于AI标签作为图像虚假信息防护手段的用户研究
密码学与安全
2026-03-10 v2 人工智能
计算机与社会
社会与信息网络
摘要
随着生成式AI日益助长欺骗性逼真虚假信息的传播，立法者已出台要求披露AI生成内容的法规。然而，标签是否能降低用户轻信AI生成虚假信息的风险尚不明确。为填补这一研究空白，我们以AI生成图像为重点，研究了标签对用户感知的影响及错误标注的潜在后果。我们首先通过五个焦点小组探索了用户对标签的意见和期望。尽管参与者对实际实施持谨慎态度，但他们认为标签有助于识别AI生成图像并避免受骗。其次，我们对1354名参与者进行了调查，以评估标签如何影响用户识别虚假信息的能力。虽然标签降低了参与者对由AI生成图像支持的虚假声明的信任度，但我们发现了过度依赖的证据，这导致了意想不到的副作用：参与者更容易相信伴随人工制作图像的虚假声明，并且对带有标签的AI生成图像所说明的真实声明更加犹豫。
引用
@article{arxiv.2505.22845,
title = {"That's another doom I haven't thought about": A User Study on AI Labels as a Safeguard Against Image-Based Misinformation},
author = {Sandra Höltervennhoff and Jonas Ricker and Maike M. Raphael and Charlotte Schwedes and Rebecca Weil and Asja Fischer and Thorsten Holz and Lea Schönherr and Sascha Fahl},
journal= {arXiv preprint arXiv:2505.22845},
year = {2026}
}
备注
Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI '26)