通过可逆神经网络学习解释性解耦语义空间
计算与语言
2024-06-12 v3 人工智能
摘要
解耦潜空间通常具有更好的语义可分性与几何性质,从而带来更好的可解释性与更可控的数据生成。尽管这在计算机视觉中已被充分研究,例如在图像解耦等任务中,NLP 领域的句子解耦仍相对研究不足。以往多数工作集中于在风格迁移背景下解耦任务特定的生成因素,如情感。本工作中,我们关注一种更通用的句子解耦形式,旨在对更通用的句子语义特征进行局部化修改与控制。为此,我们提出句子语义解耦的新概念,并引入一种基于流的(flow-based)可逆神经网络(INN)机制,其与基于 transformer 的语言自编码器(AE)相集成,以交付具有更好可分性性质的潜空间。实验结果表明,与近期最先进的语言 VAE 模型相比,该模型能将分布式潜空间转化为语义解耦更好的句子空间,从而提升语言可解释性与可控生成。
引用
@article{arxiv.2305.01713,
title = {Learning Disentangled Semantic Spaces of Explanations via Invertible Neural Networks},
author = {Yingji Zhang and Danilo S. Carvalho and André Freitas},
journal= {arXiv preprint arXiv:2305.01713},
year = {2024}
}
备注
ACL 2024