SaTML '24 CNN 可解释性竞赛：概念级可解释性的新创新
机器学习
2024-04-05 v1 人工智能
摘要
可解释性技术对于帮助人类理解和监督 AI 系统具有重要价值。SaTML 2024 CNN 可解释性竞赛征集了在 ImageNet 规模下研究卷积神经网络 (CNN) 的新方法。该竞赛的目的是帮助众包工作者识别 CNN 中的木马。本报告展示了四个精选竞赛参赛作品的方法和结果。通过可解释性工具帮助人类可靠地诊断木马仍然具有挑战性。然而，竞赛的参赛作品贡献了新技术，并在 Casper 等人 2023 年的基准上创下了新纪录。
引用
@article{arxiv.2404.02949,
title = {The SaTML '24 CNN Interpretability Competition: New Innovations for Concept-Level Interpretability},
author = {Stephen Casper and Jieun Yun and Joonhyuk Baek and Yeseong Jung and Minhwan Kim and Kiwan Kwon and Saerom Park and Hayden Moore and David Shriver and Marissa Connor and Keltin Grimes and Angus Nicolson and Arush Tagade and Jessica Rumbelow and Hieu Minh Nguyen and Dylan Hadfield-Menell},
journal= {arXiv preprint arXiv:2404.02949},
year = {2024}
}
备注
Competition for SaTML 2024