城市空间感知深度学习模型的可解释性
计算机视觉与模式识别
2022-08-30 v1
摘要
基于深度学习的计算机视觉模型正日益被城市规划者用于支持塑造城市环境的决策。此类模型预测人们如何从安全性或美观性等角度感知城市环境质量。然而，深度学习模型的黑箱性质妨碍了城市规划者理解哪些景观对象导致了特别高或特别低的城市空间感知质量。本研究探讨如何利用计算机视觉模型提取关于人们对城市空间感知的相关政策信息。为此，我们训练了两种广泛使用的计算机视觉架构：卷积神经网络（Convolutional Neural Network）和transformer，并应用GradCAM——一种知名的事后可解释AI技术——来高亮对模型预测重要的图像区域。利用这些GradCAM可视化结果，我们手动标注与模型感知预测相关的对象。结果，我们能够发现先前研究中用于标注的现有目标检测模型所未表示的新对象。此外，我们的方法学结果表明，transformer架构更适于与GradCAM技术结合使用。代码已在Github上提供。
引用
@article{arxiv.2208.13555,
title = {Explainability of Deep Learning models for Urban Space perception},
author = {Ruben Sangers and Jan van Gemert and Sander van Cranenburgh},
journal= {arXiv preprint arXiv:2208.13555},
year = {2022}
}
备注
5 pages, 3 figures