积分梯度可解释性在社会心理语义标记中的应用
计算与语言
2025-03-10 v1
摘要
在情感或更精细的社会心理标记（如能动性）层面进行文本数据分类，目前已成为一种广泛应用的句子级方法。在本文中，我们利用积分梯度（IG）方法在词级捕获分类输出，揭示哪些词语实际参与了分类过程。该方法提升了可解释性，并提供了对文本的深入洞察。我们聚焦于情感之外的社会心理标记，探讨如何有效训练IG以识别能动性——这是目前为数不多的拥有经过验证的深度学习分类器BERTAgent的标记之一。性能和系统参数经过仔细测试，IG方法的替代方案也进行了评估，结果在相关应用场景中的有效性得到了验证。该方法还被应用于仅有少量标注数据可用的场景，旨在利用IG识别对构建不同社会心理标记类别起关键作用的显著词语。为此，采用了一种鼓励过拟合的不常见训练程序，以增强每个类别的区分度。结果从社会心理学视角进行分析，提供了有价值的见解。
引用
@article{arxiv.2503.04989,
title = {Application of integrated gradients explainability to sociopsychological semantic markers},
author = {Ali Aghababaei and Jan Nikadon and Magdalena Formanowicz and Maria Laura Bettinsoli and Carmen Cervone and Caterina Suitner and Tomaso Erseghe},
journal= {arXiv preprint arXiv:2503.04989},
year = {2025}
}
备注
Submitted to IEEE Trans. on Affective Computing