日常解释中解释者对被解释者需求的心理表征
人工智能
2024-11-14 v1
摘要
在解释过程中，解释者对被解释者不断发展的知识和不断转移的兴趣（关于被解释事物）持有心理表征。这些心理表征具有动态性质，随时间发展，从而使解释者能够通过调整和定制解释来回应被解释者的需求。可解释人工智能（XAI）也应能以类似方式回应被解释者的需求。因此，需要一个包含解释者对被解释者心理表征各方面的组件。在本研究中，我们通过考察技术人工制品的日常解释中的解释者心理表征，迈出了第一步。根据二元本质理论，技术人工制品需要从两个不同视角进行解释，即针对“架构”的可观测和可测量特征，或针对“相关性”的可解释方面。我们在解释情境下对解释者（N=9）进行了延伸的半结构化事前、事后和视频回顾访谈。转录的访谈采用定性内容分析进行分析。解释者关于被解释者对技术人工制品的知识和兴趣的回答，强调了解释者早期假设的模糊性，以及在解释过程中向强信念的转变。初始时假设的被解释者知识集中在架构方面，逐渐发展为同时涉及架构和相关性的知识。相反，解释者初始假设被解释者对相关性有较高兴趣，随后转变为同时关注架构和相关性的兴趣。此外，解释者往往在察觉被解释者仍存在知识缺口时结束解释。这些发现被转化为与自适应可解释系统用户模型相关的实践启示。
引用
@article{arxiv.2411.08514,
title = {Explainers' Mental Representations of Explainees' Needs in Everyday Explanations},
author = {Michael Erol Schaffer and Lutz Terfloth and Carsten Schulte and Heike M. Buhl},
journal= {arXiv preprint arXiv:2411.08514},
year = {2024}
}