面向智能家居系统的可解释活动识别
机器学习
2023-05-29 v2 人机交互
摘要
智能家居环境旨在通过安装于空间内的各类传感器与执行器，提供改善居住者生活质量的服务。智能家居的许多自动化动作由底层活动识别系统的输出所控制。然而，活动识别系统可能并非完全准确，因此智能家居运行中的不一致会使依赖其预测的用户疑惑“智能家居为何这样做？”。本工作中，我们基于可解释人工智能（XAI）技术的见解，引入一种可解释活动识别框架，利用主流 XAI 方法生成自然语言解释，说明活动中哪些因素导致了给定分类。在远程照护者监测背景下，我们进行了两步评估：（a）利用 ML 专家评估解释的合理性，（b）在两个远程照护者监测场景（同步与异步）中招募非专家评估本框架所生成解释的有效性。结果显示，XAI 方法 SHAP 生成合理解释的成功率达 92%。此外，在 83% 的抽样场景中，用户偏好自然语言解释而非简单活动标签，凸显了对可解释活动识别系统的需求。最后，我们表明某些 XAI 方法生成的解释会使用户对底层活动识别模型的准确性失去信心。我们就现有 XAI 方法中哪种在智能家居自动化领域表现最佳给出建议，并讨论了一系列未来工作方向以进一步改进可解释活动识别。
引用
@article{arxiv.2105.09787,
title = {Explainable Activity Recognition for Smart Home Systems},
author = {Devleena Das and Yasutaka Nishimura and Rajan P. Vivek and Naoto Takeda and Sean T. Fish and Thomas Ploetz and Sonia Chernova},
journal= {arXiv preprint arXiv:2105.09787},
year = {2023}
}
备注
In ACM Transactions on Interactive Intelligent Systems