面向可复制资源的合作游戏中的相互公平机制 -- 扩展版

当前 AI 的最新发展聚焦于代理系统，其中人工智能代理与人类代理合作实现全局目标。例如，协作学习旨在基于各个代理的数据训练全局模型。为实现此类系统设计的一个主要挑战是确保安全并与人类价值观保持一致，特别是在实现全局目标后保证奖励的公平分配。合作博弈论提供了有用的代理抽象方式，通过价值函数为每个联盟赋予价值，通过奖励函数进行奖励分配。有了这些，我们可以通过指定公平公理并设计具体机制来正式化公平分配的概念。经典合作博弈论以Shapley 价值为典型代表，未能完全捕捉此类场景，因为它假设资源不可复制，而数据和模型可以被复制。无限可复制性需要一种更广义的公平概念，通过新的公理和机制来形式化。必须解决各参与者之间在互惠收益方面的不平衡，这可能导致战略性剥削和不公平的分配。本文的主要贡献是提出一种机制并证明其满足互惠公平属性，即通过平衡 reciprocity 公理实现：对于每一对玩家，双方因对方的参与而获得相等的收益。