解释建模：通过推理隐含道德判断实现句子的社会奠基
计算与语言
2023-12-08 v1 人工智能
摘要
人类交流的社会性和隐含性使读者对书面句子的理解产生分歧。单一的标准答案解释很少存在，这对自然语言处理中的传统假设提出了挑战。本研究引入了解释建模（IM）任务，该任务涉及对句子底层语义的多种解释进行建模，以挖掘隐含意义的层次。为了获得这些解释，IM 由社会关系和共同基础的多个标注指导——在本研究中，由读者对作者的态度及其对句子中巧妙嵌入的道德判断的理解来近似。我们提出了多种建模策略，这些策略依赖于受解释的哲学研究启发的一对一和一对多生成方法。我们精心构建了首个 IM 数据集以支持实验和分析。建模结果连同对数据集的审查，突显了 IM 面临的挑战，因为相互冲突和复杂的解释在社会上是合理的。对生成的解释进行的自动和人工评估证实了这种不同解读之间的相互作用。最后，对生成解释的毒性分析表明，IM 对于完善内容过滤器以及协助内容审核员维护在线话语安全具有重要意义。
引用
@article{arxiv.2312.03726,
title = {Interpretation modeling: Social grounding of sentences by reasoning over their implicit moral judgments},
author = {Liesbeth Allein and Maria Mihaela Truşcǎ and Marie-Francine Moens},
journal= {arXiv preprint arXiv:2312.03726},
year = {2023}
}