情境、可信度与控制:用户对AI辅助虚假信息工具的反思
人机交互
2025-07-01 v1 社会与信息网络
摘要
本文研究了协作式AI系统如何增强用户在社交媒体平台上识别和评估虚假信息的能力。传统方法,如个人判断或基本事实核查,在面对情绪化或缺乏情境的内容时往往效果不佳。为此,我们设计并评估了一个集成协作式AI功能的交互界面,包括实时解释、来源聚合和辩论式交互。这些元素旨在通过以透明、以用户为中心的形式提供情境线索和论证推理来支持批判性思维。在一项包含14名参与者的用户研究中,79%的参与者认为辩论模式比标准聊天机器人界面更有效,多源视图的平均有用性评分为4.6分(满分5分)。我们的研究结果强调了富含情境的对话式AI系统在提高媒体素养和促进数字信息环境信任方面的潜力。我们认为,未来的虚假信息缓解工具应优先考虑伦理设计、可解释性和互动参与,以在后真相时代赋能用户。
引用
@article{arxiv.2506.22940,
title = {Context, Credibility, and Control: User Reflections on AI Assisted Misinformation Tools},
author = {Varun Sangwan and Heidi Makitalo},
journal= {arXiv preprint arXiv:2506.22940},
year = {2025}
}