通过定向扰动学习欺骗知识图谱增强模型
计算与语言
2021-05-05 v6 人工智能
机器学习
摘要
知识图谱（KGs）已帮助神经模型在各类知识密集型任务（如问答和物品推荐）上提升性能。通过使用对 KG 的注意力机制，此类 KG 增强模型还能“解释”哪些 KG 信息对给定预测最为相关。在本文中，我们质疑这些模型是否真的如我们所期望的那样运作。我们表明，通过强化学习策略（甚至简单启发式方法），可以生成具有欺骗性的扰动 KG，其在保持原始 KG 下游性能的同时，显著偏离原始 KG 的语义与结构。我们的发现对 KG 增强模型推理 KG 信息并给出合理解释的能力提出了质疑。
引用
@article{arxiv.2010.12872,
title = {Learning to Deceive Knowledge Graph Augmented Models via Targeted Perturbation},
author = {Mrigank Raman and Aaron Chan and Siddhant Agarwal and Peifeng Wang and Hansen Wang and Sungchul Kim and Ryan Rossi and Handong Zhao and Nedim Lipka and Xiang Ren},
journal= {arXiv preprint arXiv:2010.12872},
year = {2021}
}
备注
13 pages, 11 figures