机器学习专家会讨论AI系统的可解释性吗？工业界面向领域特定解决方案的讨论案例
人机交互
2020-03-02 v1 人工智能
摘要
人工智能（AI）工具在不同领域的应用，正成为所有希望在各自行业中脱颖而出的企业的必然选择。AI成功应用的一大挑战在于，将机器学习（ML）专业知识与领域知识相结合，以在使用AI工具时获得最佳结果。领域专家理解数据及其对决策的影响。ML专家能够使用基于AI的工具处理大量数据，并为领域专家生成洞察。但如果不深入理解数据，ML专家便无法调优其模型以在特定领域获得最优结果。因此，领域专家是ML工具的关键用户，而此类AI工具的可解释性在这一背景下成为一项基本特性。目前已有大量研究致力于针对不同背景、用户和目标探索AI可解释性。在本立场论文中，我们讨论了有趣发现：ML专家在定义待开发的、面向特定领域的ML工具特性时，如何表达对AI可解释性的关切。我们分析了两次头脑风暴会议的数据，这些会议旨在讨论一种ML工具的功能，该工具利用ML资源支持地球科学家（领域专家）分析地震数据（领域特定数据）。
引用
@article{arxiv.2002.12450,
title = {Do ML Experts Discuss Explainability for AI Systems? A discussion case in the industry for a domain-specific solution},
author = {Juliana Jansen Ferreira and Mateus de Souza Monteiro},
journal= {arXiv preprint arXiv:2002.12450},
year = {2020}
}
备注
7 pages, IUI workshop on Explainable Smart Systems and Algorithmic Transparency in Emerging Technologies (ExSS-ATEC'20)