通过可解释人工智能克服灾难性遗忘
机器学习
2022-11-28 v1
摘要
解释深度神经网络（通常被视为黑箱）的行为至关重要，尤其是当它们现在正被应用于人类生活的各个方面时。利用可解释机器学习（interpretable ML）的优势，本工作提出了一种称为灾难性遗忘剖析器（Catastrophic Forgetting Dissector，简称 CFD）的新工具，用以解释持续学习设定中的灾难性遗忘。我们还基于该工具的观察结果引入了一种称为关键冻结（Critical Freezing）的新方法。在 ResNet 上的实验阐明了灾难性遗忘如何发生，特别展示了这一著名网络的哪些组件正在遗忘。我们的新持续学习算法以显著优势击败了多种近期技术，证明了该研究的能力。关键冻结不仅对抗灾难性遗忘，还揭示了可解释性。
引用
@article{arxiv.2211.14177,
title = {Overcoming Catastrophic Forgetting by XAI},
author = {Giang Nguyen},
journal= {arXiv preprint arXiv:2211.14177},
year = {2022}
}
备注
Master of Science Thesis at KAIST; 24 pages; Keywords: continual learning, catastrophic forgetting, XAI, attribution map, interpretability