可解释性的人类评估：以人工智能生成的音乐知识为例
人机交互
2020-04-16 v1 人工智能
摘要
机器学习模型的可解释性在人工智能（AI）与人机交互（HCI）领域的研究者中获得了越来越多的关注。现有工作大多聚焦于决策制定，而我们关注知识发现。具体而言，我们致力于评估艺术与人文领域中由 AI 发现的知识/规则。从一个具体场景出发，我们提出了一种实验流程，用以收集并评估人类对所生成的、以复杂符号/数值对象呈现的 AI 生成音乐理论/规则的语言化解释。我们的目标是揭示这一从 AI 来源解码表达性信息过程中的可能性与挑战。我们将此视为迈向以下目标的第一步：1）更好地设计可供人类解释的人工智能表征；2）建立评估 AI 发现的知识表征之可解释性的通用方法学。
引用
@article{arxiv.2004.06894,
title = {Human Evaluation of Interpretability: The Case of AI-Generated Music Knowledge},
author = {Haizi Yu and Heinrich Taube and James A. Evans and Lav R. Varshney},
journal= {arXiv preprint arXiv:2004.06894},
year = {2020}
}