深度学习模型中的特征手性
计算机视觉与模式识别
2023-05-09 v1
摘要
随着深度学习应用以飞跃之势广泛增长，其可解释性已愈发突出。手性作为一种普遍性质广泛存在于自然界，将其应用于深度学习的解释性研究或可在一定程度上有所帮助。受近期一项使用应用了视觉手性的 CNN（卷积神经网络）来区分图像是否被翻转的研究启发，本文创新性地研究了特征手性，展示了深度学习模型特征数据的统计特性如何因训练而改变。我们重新思考特征层面的手性性质，提出特征手性并给出度量。我们对 AlexNet、VGG 和 ResNet 上特征手性的分析揭示了相似却令人惊讶的结果，包括特征手性在这些模型中的普遍性，以及模型的初始化方法不影响特征手性。我们的工作表明特征手性隐含着模型评估、模型可解释性与模型参数优化。
引用
@article{arxiv.2305.03966,
title = {Feature Chirality in Deep Learning Models},
author = {Shipeng Ji and Yang Li and Ruizhi Fu and Jiabao Wang and Zhuang Miao},
journal= {arXiv preprint arXiv:2305.03966},
year = {2023}
}
备注
6 pages,6 figures