揭示决策依据：对齐学习与推理的实验
人工智能
2021-05-17 v1 机器学习
摘要
在人工智能与法律领域，为追求正义而设计的决策支持系统应具备可解释性。为使这些系统公平且负责，它们应做出正确决策，并以合理且透明的依据做出决策。本文引入一种知识驱动、模型无关的依据评估方法，使用专用测试用例，类似于专业软件开发中的单元测试。我们将这一新方法应用于一组机器学习实验，旨在从虚构与非虚构法律场景的人工数据集中提取已知知识结构。我们表明，该方法可通过评估哪些依据元素被学习或未被学习，来分析黑盒机器学习系统的依据。此外，我们表明可基于依据评估结果、使用量身定制的训练数据来调整依据。
引用
@article{arxiv.2105.06758,
title = {Discovering the Rationale of Decisions: Experiments on Aligning Learning and Reasoning},
author = {Cor Steging and Silja Renooij and Bart Verheij},
journal= {arXiv preprint arXiv:2105.06758},
year = {2021}
}
备注
21 pages