“你为何不把这任务分配给他们？”——协商感知的可解释任务分配与对比解释生成
人工智能
2023-05-29 v4
摘要
任务分配是多智能体系统中的一个重要问题。当团队成员是对队友成本与整体性能指标知之甚少的人类时，该问题更具挑战性。本文提出一种集中式人工智能任务分配（AITA），其模拟协商并产生协商感知的可解释任务分配。若某团队成员对提议分配不满，我们允许其使用反事实质疑该分配。通过利用模拟协商的部分内容，我们能够提供对比解释，以关于他人成本的最小信息来反驳其错误前提。通过人类实验，我们表明：（1）采用本方法提议的分配在多数人看来是公平的；（2）当提出反事实时，生成的解释易于理解且具有说服力。最后，我们实证研究了不同类型不完备性对解释长度的影响，发现低估队友成本常会增加该长度。
引用
@article{arxiv.2002.01640,
title = {`Why didn't you allocate this task to them?' Negotiation-Aware Explicable Task Allocation and Contrastive Explanation Generation},
author = {Zahra Zahedi and Sailik Sengupta and Subbarao Kambhampati},
journal= {arXiv preprint arXiv:2002.01640},
year = {2023}
}