利用基于种群的训练降低可利用性

自博弈强化学习已在多种零和博弈中取得最先进且常超越人类的表现。然而，先前工作发现，对常规对手高度胜任的策略可能在对抗性策略（即显式针对受害者训练的对手）面前灾难性失效。先前使用对抗训练的防御能使受害者对特定对手鲁棒，但受害者仍易受新对手攻击。我们推测此局限源于训练期间所见对手多样性不足。我们分析了使用基于种群的训练使受害者与多样化对手对抗的防御方法。我们在两个低维环境中评估了该防御对新对手的鲁棒性。该防御提升了针对对手的鲁棒性，以利用受害者所需的攻击者训练时间步数衡量。此外，我们表明鲁棒性与对手种群规模相关。