合成现实时代：挑战与机遇
计算机与社会
2024-09-30 v1 人工智能
机器学习
摘要
合成现实是通过使用人工智能 (AI) 方法进行情境化生成的数字创作或增强，它利用大量数据来构建新的叙事或现实，而无论其是否具有欺骗意图。在本文中，我们深入探讨了合成现实的概念及其在快速发展的 AI 领域中对数字取证和整个社会的意义。我们强调，迫切需要开发能够识别有害合成创作并将其与现实区分开来的取证技术。在涉及假新闻、虚假信息和错误信息的创建与传播的场景中，这一点尤为重要。我们的关注点扩展到各种形式的媒体，如图像、视频、音频和文本，我们考察了合成现实是如何被精心制作的，并探索了检测这些恶意创作的方法。此外，我们阐明了该领域未来面临的关键研究挑战。由于 AI 生成技术的快速进步及其对法医学基本原则的影响，这项研究至关重要。
引用
@article{arxiv.2306.11503,
title = {The Age of Synthetic Realities: Challenges and Opportunities},
author = {João Phillipe Cardenuto and Jing Yang and Rafael Padilha and Renjie Wan and Daniel Moreira and Haoliang Li and Shiqi Wang and Fernanda Andaló and Sébastien Marcel and Anderson Rocha},
journal= {arXiv preprint arXiv:2306.11503},
year = {2024}
}