注意力模型与事后解释方法用于胚胎阶段识别的比较：案例研究
计算机视觉与模式识别
2022-05-16 v1
摘要
基于人工智能的体外受精（IVF）解决方案发展的一个重要限制是大多数最先进模型的黑箱性质，这源于深度学习架构的复杂性，并引发潜在的偏差与公平性问题。对可解释AI的需求不仅在IVF领域，也在一般深度学习界中上升。这开启了文献中的趋势，作者聚焦于设计客观度量以评估通用解释方法。本文中，我们研究近期提出的客观忠实度度量应用于胚胎阶段识别问题的行为。我们使用度量对注意力模型与事后方法进行基准测试，并进一步经验表明：（1）这些度量对模型排序产生较低的总体一致性；（2）依度量方法之不同，要么事后方法要么注意力模型更受青睐。我们以关于定义忠实度之困难及理解其与受青睐方法类型间关系之必要性的总体评论作结。
引用
@article{arxiv.2205.06546,
title = {Comparison of attention models and post-hoc explanation methods for embryo stage identification: a case study},
author = {Tristan Gomez and Thomas Fréour and Harold Mouchère},
journal= {arXiv preprint arXiv:2205.06546},
year = {2022}
}