媒体能否作为安全 AI 开发的软性监管器？——基于博弈论的分析
人工智能
2025-09-04 v1 计算机科学与博弈论
种群与进化
摘要
当人工智能 (AI) 产品开发者需要在利润与用户安全之间做出选择时，他们可能倾向于选择利润。不可靠的人工智能技术必须附带可见的负面后果。我们设想这些后果是由媒体报道其恶行并传播给公众所导致的声誉损失。在本工作中，我们探讨了媒体报道是否有望推动 AI 创作者生产安全产品，从而实现 AI 技术的广泛采用。我们创建了自利创作者和用户的人工种群，并通过进化博弈论的视角对其进行研究。我们的结果揭示，媒体确实能够促进创作者与用户之间的合作，但并非总是如此。如果媒体提供的信息质量不可靠，或确保安全或获取媒体的成本过高，合作就不会产生。通过塑造公众认知并对开发者负责，媒体作为一种强大的软性监管器——即使缺乏正式的政府监管，也能引导 AI 安全。
引用
@article{arxiv.2509.02650,
title = {Can Media Act as a Soft Regulator of Safe AI Development? A Game Theoretical Analysis},
author = {Henrique Correia da Fonseca and António Fernandes and Zhao Song and Theodor Cimpeanu and Nataliya Balabanova and Adeela Bashir and Paolo Bova and Alessio Buscemi and Alessandro Di Stefano and Manh Hong Duong and Elias Fernandez Domingos and Ndidi Bianca Ogbo and Simon T. Powers and Daniele Proverbio and Zia Ush Shamszaman and Fernando P. Santos and The Anh Han and Marcus Krellner},
journal= {arXiv preprint arXiv:2509.02650},
year = {2025}
}
备注
10 Pages, 7 Figures, accepted in the ALIFE 2025 Conference