利用机器学习解释防止虚假新闻检测中的过度信任
信息检索
2020-07-28 v2 人工智能
社会与信息网络
摘要
在后真相时代，打击虚假新闻和错误信息传播是一项具有挑战性的任务。新闻推送和搜索算法可能导致虚假和捏造信息无意中大规模传播，用户会接触到算法筛选出的虚假内容。我们的研究调查了嵌入新闻审核平台的可解释 AI 助手在打击虚假新闻传播方面的效果。我们设计了一个新闻审核与分享界面，创建了一个新闻故事数据集，并训练了四种可解释的虚假新闻检测算法，以研究算法透明度对最终用户的影响。我们展示了来自多项受控众包研究的评估结果和分析。为了更深入地理解可解释 AI 系统，我们讨论了在解释过程中用户参与度、心智模型、信任度和性能指标之间的相互作用。研究结果表明，解释有助于参与者在不同条件下建立对智能助手适当的心智模型，并根据模型局限性相应调整其信任。
引用
@article{arxiv.2007.12358,
title = {Machine Learning Explanations to Prevent Overtrust in Fake News Detection},
author = {Sina Mohseni and Fan Yang and Shiva Pentyala and Mengnan Du and Yi Liu and Nic Lupfer and Xia Hu and Shuiwang Ji and Eric Ragan},
journal= {arXiv preprint arXiv:2007.12358},
year = {2020}
}