FILM：一种快速、可解释且低秩的句子匹配度量学习方法
计算与语言
2020-10-14 v2 人工智能
机器学习
摘要
语义相似度检测在句子匹配中起着至关重要的作用，其需要学习自然语言的可判别表示。近年来，随着模型结构日益复杂，相关技术取得了令人瞩目的进展，但也伴随着耗时的训练过程与不可解释的推断。为缓解该问题，我们探索了一种名为 FILM（Fast, Interpretable, and Low-rank Metric learning，快速、可解释且低秩的度量学习）的度量学习方法，以高效寻找高维数据的高判别性投影。我们将该度量学习问题构建为流形优化问题，并采用带 Barzilai-Borwein 步长的 Cayley 变换方法求解。在实验中，我们将带有三元组损失最小化目标的 FILM 应用于 Quora Challenge 与 Semantic Textual Similarity (STS) 任务。结果表明，FILM 方法取得了优越的性能以及最快的计算速度，这与我们对时间复杂度的理论分析一致。
引用
@article{arxiv.2010.05523,
title = {FILM: A Fast, Interpretable, and Low-rank Metric Learning Approach for Sentence Matching},
author = {Xiangru Tang and Alan Aw},
journal= {arXiv preprint arXiv:2010.05523},
year = {2020}
}