UKP-SQuARE v2:面向可信问答的可解释性与对抗攻击
计算与语言
2022-10-21 v3
摘要
问答(QA)系统正日益部署于支持真实世界决策的应用中。然而,最先进模型依赖深度神经网络,难以被人解释。固有可解释模型或事后可解释性方法可帮助用户理解模型如何得出预测,并有望增进其对系统的信任。此外,研究者可利用这些洞察开发更准确且更少偏差的新方法。本文介绍 SQuARE 的新版本 SQuARE v2,以提供基于显著性图与基于图的解释等方法比较模型的可解释性基础设施。显著性图有助于检查每个输入词元对模型预测的重要性,而来自外部知识图的基于图的解释使用户能验证模型预测背后的推理。此外,我们提供多种对抗攻击以比较 QA 模型的鲁棒性。借助这些可解释性方法与对抗攻击,我们旨在简化对可信 QA 模型的研究。SQuARE 可在 https://square.ukp-lab.de 获取。
引用
@article{arxiv.2208.09316,
title = {UKP-SQuARE v2: Explainability and Adversarial Attacks for Trustworthy QA},
author = {Rachneet Sachdeva and Haritz Puerto and Tim Baumgärtner and Sewin Tariverdian and Hao Zhang and Kexin Wang and Hossain Shaikh Saadi and Leonardo F. R. Ribeiro and Iryna Gurevych},
journal= {arXiv preprint arXiv:2208.09316},
year = {2022}
}
备注
Accepted at AACL 2022 as Demo Paper