人类-人工智能生态系统中的算法串通破坏
机器学习
2025-12-01 v1 计算机科学与博弈论
摘要
AI代理日益被部署在与人类及其他AI代理频繁交互的生态系统中。本文从理论视角研究此类人类-AI生态系统，聚焦于重复定价博弈的经典框架。在我们的模型中，AI代理采用均衡策略，而一或多位人类则手动执行定价任务，从而违背无懈可击策略。受动力学AI代理可维持超竞争性价格的启发，我们探讨此类违背行为下，高价是否仍可维持。我们的主要发现表明，即便仅有单个人类违背行为，即可破坏串通并导致价格下跌，多个违背行为则将价格推得更接近竞争水平。我们进一步展示，在违背感知的AI代理下，串通的性质如何发生变化。综上，我们描述了在AI代理与人类混合生态系统中，算法串通何时脆弱以及何时得以维持的条件。
引用
@article{arxiv.2511.21935,
title = {Breaking Algorithmic Collusion in Human-AI Ecosystems},
author = {Natalie Collina and Eshwar Ram Arunachaleswaran and Meena Jagadeesan},
journal= {arXiv preprint arXiv:2511.21935},
year = {2025}
}