Go 人工智能是否具有对抗鲁棒性？

先前的研究发现，超越人类的围棋人工智能可以通过简单的对抗策略被击败，尤其是“循环”攻击。本文研究在围棋中加入自然防御措施是否能够实现鲁棒性，因为围棋是一个有利于鲁棒性的领域，由于其惊人的平均案例能力以及狭窄且本质上具有对抗性的环境。我们测试了三种防御措施：针对手工构造位置的对抗训练、迭代对抗训练以及更改网络架构。我们发现，尽管某些防御措施能够抵御先前发现的攻击，但没有一种方法能抵御新训练的对手。此外，这些对手发现的大多数可靠有效的攻击都是同一整体循环攻击类别的不同实现。我们的结果表明，即使在某些最可处理的设置中，构建鲁棒人工智能系统仍然具有挑战性，这突显了两个关键差距：防御的高效泛化，以及训练中的多样性。有关攻击示例及代码链接，请参见 https://goattack.far.ai。