文本评论中的可解释异常检测：主观场景能否被正确评估？

本文提出了一个用于检测并解释在线平台中异常评论的流程。该流程由三个模块组成，能够检测出因无价值或恶意撰写而不为用户产生价值的评论。分类结果附带一个正常性分数以及证明所作决策的解释。使用从大型亚马逊数据库构建的不同数据集评估了该流程解决异常检测任务的能力。此外，开展了一项涉及241名参与者的研究，比较三种可解释性技术以评估可解释性模块。该研究旨在衡量解释对受访者复现分类模型能力及其感知有用性的影响。本工作可用于自动化电子商业等在线评论平台的任务，并为解决文本数据异常检测领域的类似问题提供启发。我们还认为，在如异常评论检测这样真实且罕见的场景中，对不同可解释性技术能力进行人工评估是有意义的，并反思诸如此类高度主观的人类任务是否可能被解释。