用于临时团队协作的对称性破缺增强
机器学习
2025-04-22 v2 人工智能
摘要
在动态协作环境中，为了使人工智能（AI）智能体更好地与人类对齐，它们必须适应采用不可预见策略的新队友。虽然适应对人类来说通常很简单，但对 AI 智能体而言可能具有挑战性。我们的工作引入了一种称为对称性破缺增强（SBA）的新方法来应对这一挑战。通过对训练队友应用对称翻转操作以增加行为多样性，SBA 鼓励智能体学习对未知策略的鲁棒响应，突显了社会惯例如何影响人机对齐。我们在两种设置中通过实验证明了这一点，表明我们的方法在具有挑战性的纸牌游戏 Hanabi 中优于以往的临时团队协作结果。此外，我们提出了一种通用指标，用于估计给定策略集之间的对称性依赖性。我们的研究结果为 AI 系统如何更好地适应多样化的人类惯例以及对齐的核心机制提供了见解。
引用
@article{arxiv.2402.09984,
title = {Symmetry-Breaking Augmentations for Ad Hoc Teamwork},
author = {Ravi Hammond and Dustin Craggs and Mingyu Guo and Jakob Foerster and Ian Reid},
journal= {arXiv preprint arXiv:2402.09984},
year = {2025}
}
备注
21 pages, 12 figures, Bidirectional Human-AI Alignment workshop, ICLR 2025