人工智能用于公共部门决策的如何与为何：解释与评估
计算机与社会
2018-10-23 v2 人工智能
摘要
由于其软件制品的技术复杂性以及通常嵌入于复杂的社会技术过程之中，评估一直是基于人工智能（AI）的软件开发中的关键挑战。由深度神经网络赋能的机器学习（ML）近期进展，因这类基于 ML 的制品的不透明性而加剧了此类软件的评估挑战。一个关键的相关问题是此类系统生成对其输出有用解释的能力（缺失），我们认为解释问题与评估问题紧密相连。本文在涉及人工与人类智能的公共部门决策（PSD）应用背景下对基于 ML 的 AI 系统要素进行建模，并将这些要素映射到评估与解释两方面的问题，展示二者如何关联。我们依据该模型考察若干常见的 PSD 应用模式，并识别每种情况下与解释和评估相关的一组关键问题。最后，我们提出多种策略以促进 AI/ML 技术在 PSD 中的更广泛应用，每种策略以其对我们模型不同要素的侧重而区分，使 PSD 政策制定者能采纳最契合其背景与关切的方法。
引用
@article{arxiv.1810.02689,
title = {Hows and Whys of Artificial Intelligence for Public Sector Decisions: Explanation and Evaluation},
author = {Alun Preece and Rob Ashelford and Harry Armstrong and Dave Braines},
journal= {arXiv preprint arXiv:1810.02689},
year = {2018}
}
备注
Presented at AAAI FSS-18: Artificial Intelligence in Government and Public Sector, Arlington, Virginia, USA; corrected typos in this version