图像–语言可解释模型模拟领域专业知识的能力
机器学习
2022-09-21 v1
摘要
视觉与语言(V+L)模型的最新进展在医疗健康领域具有可喜的影响。然而，此类模型难以解释特定决策是如何以及为何做出的。此外，模型透明度和领域专业知识的参与，是机器学习模型进入该领域的关键成功因素。在本工作中，我们研究使用局部代理可解释性技术来克服黑盒深度学习模型的问题。我们探索了结合底层 V+L 使用局部代理来模拟领域专业知识以生成多模态视觉与语言解释的可行性。我们证明此类解释可作为有用反馈，指导该领域数据科学家与机器学习工程师的模型训练。
引用
@article{arxiv.2209.09310,
title = {The Ability of Image-Language Explainable Models to Resemble Domain Expertise},
author = {Petrus Werner and Anna Zapaishchykova and Ujjwal Ratan},
journal= {arXiv preprint arXiv:2209.09310},
year = {2022}
}
备注
9 pages, 7 figures, 5 tables