通过方法组合增强移动数据科学中的可解释性
人工智能
2023-12-04 v1
摘要
在移动数据科学领域，解释基于轨迹数据训练的模型并阐明实体的时空运动这一复杂任务，一直构成重大挑战。传统的XAI（可解释人工智能）技术虽潜力十足，却常忽视轨迹数据固有的独特结构与细微差别。观察到这一不足，我们引入了一个融合关键XAI技术的综合框架：LIME（局部可解释模型无关解释）、SHAP（SHapley加性解释）、显著图、注意力机制、直接轨迹可视化以及置换特征重要性（PFI）。与单独部署这些方法的常规策略不同，我们的统一方法利用了这些技术的集体效能，为依赖轨迹数据的模型提供更深入、更细粒度的洞察。在构建此综合方法时，我们有效应对了轨迹的多面本质，不仅实现了可解释性的增强，也获得了对模型决策细致入微、富含上下文的理解。为验证并改进框架，我们开展了一项调查以评估不同用户群体中的偏好与接受度。我们的发现凸显了一种二分：具有学术导向的专业人士，尤其是数据科学家、IT专家与机器学习工程师等角色，展现出深厚的技术理解，并常偏爱用于可解释性的组合方法。相反，终端用户或不太熟悉AI与数据科学的个体表现出更简单的倾向，例如指示时间步重要性的条形图或标出船舶轨迹关键段的可视化描绘。
引用
@article{arxiv.2312.00380,
title = {Enhancing Explainability in Mobility Data Science through a combination of methods},
author = {Georgios Makridis and Vasileios Koukos and Georgios Fatouros and Dimosthenis Kyriazis},
journal= {arXiv preprint arXiv:2312.00380},
year = {2023}
}