基于责任的可解释性

基于机器学习的程序化内容生成（PCGML）指利用机器学习模型创建游戏内容（如平台游戏关卡、游戏地图等）的一类方法。PCGML 方法依赖黑盒模型，对于不具备机器学习专业知识的人类设计者而言，难以理解和调试。在人机协同创作系统中，人类设计者必须与 AI 智能体交互以生成游戏内容，这会更加棘手。本文提出一种可解释人工智能方法，在协同创作过程中，将某些训练样本作为 AI 智能体行为的解释提供给人类用户。我们通过评估该方法为人类用户提供 AI 智能体行为解释并帮助其更高效地与 AI 智能体合作的能力，来验证此方法。