人类对机器操纵媒体的检测
计算机视觉与模式识别
2022-02-28 v2 机器学习
图像与视频处理
摘要
近期用于内容生成的神经网络进展使人工智能（AI）模型能够生成高质量的媒体操纵。本文报告一项随机实验，旨在研究接触媒体操纵对超过15000人辨别机器操纵媒体能力的影响。我们设计了一个神经网络，可合理且自动地从图像中移除物体，并将该神经网络部署于在线随机实验中，参与者需猜测一对图像中哪一张被操纵过。系统对参与者每次猜测的准确性提供反馈。实验中我们对图像呈现顺序进行随机化，从而可因果识别参与者检测虚假内容能力的学曲线。我们发现有力且稳健的证据：当对检测尝试提供迭代反馈时，个体通过接触操纵媒体学会了检测虚假内容。仅在连续十张图像内，参与者的判断准确率提升了超过十个百分点。我们的研究提供了初步证据：人类检测虚假机器生成内容的能力可能随此类媒体在网上的盛行而增强。
引用
@article{arxiv.1907.05276,
title = {Human detection of machine manipulated media},
author = {Matthew Groh and Ziv Epstein and Nick Obradovich and Manuel Cebrian and Iyad Rahwan},
journal= {arXiv preprint arXiv:1907.05276},
year = {2022}
}