面向系统故障的可解释 AI：生成可改善人在故障恢复中辅助作用的解释
人工智能
2020-11-20 v2 机器人学
摘要
随着智能系统能力的不断增强，人工智能（AI）与机器人在日常生活中的融合日益加深。然而，当在这样的复杂人类环境中交互时，智能系统（如机器人）的故障可能不可避免，需要用户提供恢复辅助。在本工作中，我们为 AI 智能体计划执行过程中遇到的故障开发自动化的自然语言解释。这些解释的开发侧重于帮助非专家用户理解不同的故障点，以更好地提供恢复辅助。具体而言，我们引入了一种基于上下文的解释信息类型，其既能帮助非专家用户理解系统故障的潜在原因，又能选择合适的故障恢复方式。此外，我们扩展了现有的序列到序列方法以自动生成我们基于上下文的解释。通过此举，我们能够开发一个可针对不同故障类型和故障场景泛化基于上下文的解释的模型。
引用
@article{arxiv.2011.09407,
title = {Explainable AI for System Failures: Generating Explanations that Improve Human Assistance in Fault Recovery},
author = {Devleena Das and Siddhartha Banerjee and Sonia Chernova},
journal= {arXiv preprint arXiv:2011.09407},
year = {2020}
}