可感知 AI：基于意义建构理论重新构想可解释性与可说明性
人机交互
2022-05-11 v1 人工智能
机器学习
摘要
理解机器学习（ML）模型如何工作是负责任地设计、部署和使用基于 ML 系统的先决条件。借助可解释性方法，ML 现在可以为其输出提供解释以辅助人类理解。尽管这些方法依赖于关于人类如何相互解释的准则，但它们最终解决的是改进产物——即一个解释。在本文中，我们提出一个基于 Weick 意义建构（sensemaking）理论的替代性可解释性框架，该框架关注解释所面向的对象。近期工作倡导理解利益相关者需求的重要性——我们在此基础上提供了塑造人类理解的具体属性（例如身份、社会语境、环境线索等）。我们以组织中意义建构的应用为模板，讨论可感知 AI（Sensible AI）的设计准则，即可感知 AI 是在试图解释自身时考量人类认知细微差别的 AI。
引用
@article{arxiv.2205.05057,
title = {Sensible AI: Re-imagining Interpretability and Explainability using Sensemaking Theory},
author = {Harmanpreet Kaur and Eytan Adar and Eric Gilbert and Cliff Lampe},
journal= {arXiv preprint arXiv:2205.05057},
year = {2022}
}
备注
To appear at FAccT 2022