用于创建对话式解释体验的行为树
人工智能
2023-01-09 v2
摘要
本文提出了一个 XAI 系统规范和一个交互式对话模型，以促进解释体验（EE）的创建。该规范结合了特定用例的 XAI、领域和系统专家的知识，以形式化目标用户群体及其解释需求，并实施解释策略来满足这些需求。形式化 XAI 系统促进了现有解释器和已知解释需求的重用，这些需求和解释器可以通过用户评估反馈进行完善和演进。抽象的 EE 对话模型形式化了用户与 XAI 系统之间的交互。由此产生的 EE 对话聊天机器人利用其 XAI 系统规范中捕获的知识，在运行时针对特定的 XAI 系统进行个性化定制。通过使用行为树（BT）来概念化 EE 对话模型和解释策略，实现了这种无缝集成。在评估中，我们讨论了相较于传统使用的 STM 或 FSM，使用 BT 的几个理想特性。BT 通过设计的层次性促进了对对话组件的可重用性。子树是模块化的，即每个子树负责特定的行为，并且可以在不同粒度级别上进行设计以提高人类的可解释性。EE 对话模型由捕获 EE 所需的抽象行为组成，因此，它可以被实现为迎合不同领域和用户的对话式、图形化或基于文本的界面。使用 BT 进行对话建模存在显著的计算开销，我们通过使用内存来缓解这一问题。总体而言，我们发现动态创建稳健对话路径的能力使 BT 成为设计和实现对话以创建解释体验的良好候选者。
引用
@article{arxiv.2211.06402,
title = {Behaviour Trees for Creating Conversational Explanation Experiences},
author = {Anjana Wijekoon and David Corsar and Nirmalie Wiratunga},
journal= {arXiv preprint arXiv:2211.06402},
year = {2023}
}