人工智能与双重契约

本文探讨了人工智能（AI）算法在双重委托-代理设置中自主设计激励相容契约的能力，这是算法机制设计中相对未被探索的一个方面。我们构建了一个动态模型，其中两个委托人各自配备独立的 Q-learning 算法，与单一代理人交互。我们的发现揭示，AI 委托人的策略行为（合作 vs. 竞争）关键取决于其利润的一致性。值得注意的是，更大的利润一致性促成合谋策略，以牺牲代理人激励为代价产生更高的委托人利润。这种涌现行为在不同程度的委托人异质性、多个委托人以及不确定性环境中持续存在。我们的研究强调了 AI 用于契约自动化的潜力，同时引发了关于战略操纵以及 AI 驱动系统中意外合谋涌现的关键担忧，特别是在更广泛的 AI 对齐问题背景下。