论信任与可解释性的关系：为何应面向可信赖性进行工程化设计
软件工程
2021-08-16 v2 计算机与社会
摘要
近来，对软件系统可解释性（explainability）的需求日益凸显。此类需求的主要动机之一在于，可解释性有望促进利益相关者对该系统的信任。尽管这看似直观，近期的心理学研究表明解释未必能促进信任。因此，可解释性需求可能并不适合用于提升信任。我们建议，调和这一发现的一种方式是关注可信赖性（trustworthiness）而非信任（trust）。尽管二者可能分离，我们理想中希望兼得：一个可信赖的系统以及利益相关者的信任。本文主张，即便可信赖性不会自动带来信任，仍有若干理由应主要面向可信赖性进行工程化设计——且系统的可解释性可对其可信赖性作出关键贡献。
引用
@article{arxiv.2108.05379,
title = {On the Relation of Trust and Explainability: Why to Engineer for Trustworthiness},
author = {Lena Kästner and Markus Langer and Veronika Lazar and Astrid Schomäcker and Timo Speith and Sarah Sterz},
journal= {arXiv preprint arXiv:2108.05379},
year = {2021}
}
备注
Accepted at the First International Workshop on Requirements Engineering for Explainable Systems (RE4ES) co-located with the 29th IEEE International Requirements Engineering Conference (RE'21)