运用大语言模型比较智能家居人类活动识别可解释模型
人机交互
2024-08-14 v1 人工智能
摘要
识别智能环境中无侵入式传感器的日常活动可实现各种医疗保健应用。监控主体在家中活动的表现及其随时间的变化可揭示健康问题(如认知衰退)的早期症状。该领域的大多数方法使用深度学习模型,这些模型常被视为将传感器数据映射为活动的黑盒。然而,非专业用户(如临床医生)需要信任并理解这些模型的输出。因此,可解释人工智能(XAI)方法对于人类活动识别而言,旨在提供来自这些模型的直观自然语言解释。不同的XAI方法生成不同的解释,其有效性通常通过用户调查进行评估,而这些调查在成本和公平性方面常常具有挑战。本文提出一种使用大语言模型(LLM)的自动评估方法,在候选方法池中识别最适合非专业用户的XAI方法。我们的初步结果表明,LLM评估与用户调查一致。
引用
@article{arxiv.2408.06352,
title = {Using Large Language Models to Compare Explainable Models for Smart Home Human Activity Recognition},
author = {Michele Fiori and Gabriele Civitarese and Claudio Bettini},
journal= {arXiv preprint arXiv:2408.06352},
year = {2024}
}
备注
Accepted for publication at UbiComp / ISWC 2024's XAIforU workshop