解释与改进多智能体决策中的信息互补性
人工智能
2026-02-05 v6 机器学习
摘要
多个智能体日益被组合用于做出决策，期望通过实现互补性能，其中由各智能体共同做出的决策优于各自单独做出的决策。然而，了解如何提高协作智能体性能的关键在于了解每个智能体所采用的信息与策略。本文聚焦于人类-AI 组合情境，贡献了一个基于决策理论的框架，用于表征信息的价值。通过定义互补信息，我们的方法识别了智能体更好利用可用信息的机会，适用于 AI 辅助决策工作流程。我们提出了一种新型解释技术（ILIV-SHAP），该技术将 SHAP 解释适配，以突出显示人类互补信息。我们通过对人类-AI 决策的研究验证了该框架和 ILIV-SHAP 的有效性，并在胸部 X 光诊断和深度伪造检测等示例中展示了该框架的应用。我们发现，呈现 ILIV-SHAP 伴随 AI 预测时，相较于非 AI 辅助决策以及普通 SHAP，能可靠地实现更大的错误降低。
引用
@article{arxiv.2502.06152,
title = {Explaining and Improving Information Complementarities in Multi-Agent Decision-making},
author = {Ziyang Guo and Yifan Wu and Jason Hartline and Jessica Hullman},
journal= {arXiv preprint arXiv:2502.06152},
year = {2026}
}