通过 XAI 可视化理解情感的预测机制
人机交互
2020-03-04 v1 计算与语言
机器学习
摘要
人们常依赖在线评论做出购买决策。本工作旨在通过可解释 AI（XAI）方法可视化从在线酒店评论中提取的情感的影响，来理解机器学习模型的预测机制。研究 1 使用提取的情感作为特征，通过五种机器学习算法（knn、CART 决策树、支持向量机、随机森林、梯度提升机）预测评论评分，并确定随机森林为最佳算法。研究 2 通过特征重要性分析随机森林模型，揭示 joy、disgust、positive 和 negative 等情感为最具预测性的特征。此外，加性变量归因及其预测分布的可视化显示，对于 5 星评分，预测方向与效应量正确，而对于 1 星评分，方向部分错误且效应量不足。这些预测细节通过针对四个顶级特征的假设分析得到证实。总之，机器学习模型的预测机制可通过特定观测的可视化来揭示。比较具有相反真实值的实例可以描绘出预测机制的差异图景，并为模型改进决策提供信息。
引用
@article{arxiv.2003.01425,
title = {Understanding the Prediction Mechanism of Sentiments by XAI Visualization},
author = {Chaehan So},
journal= {arXiv preprint arXiv:2003.01425},
year = {2020}
}
备注
This is the author's prefinal version be published in conference proceedings: 4th International Conference on Natural Language Processing and Information Retrieval, Sejong, South Korea, 26-28 June, 2020, ACM