神经网络真的编码了符号概念吗？
机器学习
2024-09-16 v3 人工智能
计算机视觉与模式识别
摘要
近来，一系列研究试图提取 DNN 所建模的输入变量之间的交互，并将此类交互定义为 DNN 所编码的概念。然而严格来说，仍缺乏坚实的保证来证明此类交互确实代表有意义的概念。因此，在本文中，我们从四个角度考察交互概念的可信性。大量实证研究表明，训练良好的 DNN 通常编码稀疏、可迁移且具判别性的概念，这在一定程度上与人类直觉相符。
引用
@article{arxiv.2302.13080,
title = {Does a Neural Network Really Encode Symbolic Concepts?},
author = {Mingjie Li and Quanshi Zhang},
journal= {arXiv preprint arXiv:2302.13080},
year = {2024}
}