领域级可解释性——构建对超人类 AI 策略信任的挑战
人工智能
2020-11-16 v1
摘要
对于策略性问题，基于深度强化学习（DRL）的智能系统已展现出令人印象深刻的学习高级解的能力，这些解可远超人类能力，尤其是在处理复杂场景时。虽然这为开发具有突破性功能的智能辅助系统创造了新机遇，但将该技术应用于现实世界问题会带来重大风险，因此需要对其透明度和可靠性建立信任。由于超人类策略按定义是非直观且复杂的，且现实场景禁止可靠的性能评估，这些系统中信任的关键要素难以实现。可解释 AI（XAI）已通过多种措施成功提升了现代 AI 系统的透明度，然而 XAI 研究尚未提供能使专家用户在策略情境中获致领域级洞察的方法。在本文中，我们讨论了基于 DRL 的超人类策略的存在性、其性质、将其转化至现实环境的要求与挑战，以及可解释性作为关键技术对信任的影响。
引用
@article{arxiv.2011.06665,
title = {Domain-Level Explainability -- A Challenge for Creating Trust in Superhuman AI Strategies},
author = {Jonas Andrulis and Ole Meyer and Grégory Schott and Samuel Weinbach and Volker Gruhn},
journal= {arXiv preprint arXiv:2011.06665},
year = {2020}
}