迈向知识图谱上的鲁棒推理
密码学与安全
2021-11-02 v2
摘要
在大规模知识图谱（KG）上回答复杂逻辑查询是一项重要的人工智能任务，具有一系列应用。近来，知识表示学习（KRL）已成为最先进的方法，其将 KG 实体与查询嵌入到潜空间中，使得回答该查询的实体被嵌入到靠近查询的位置。然而，尽管其日益流行，KRL 的潜在安全风险在很大程度上未被探索，考虑到此类能力在安全关键领域（如网络安全与医疗健康）中日益增长的使用，这令人担忧。本工作代表了弥合这一差距的坚实初步步骤。我们根据底层攻击向量（如知识投毒与查询扰动）以及攻击者的背景知识，将 KRL 的潜在安全威胁系统化。更重要的是，我们提出 ROAR（基于对抗表示的推理，Reasoning Over Adversarial Representations），一类实例化多种此类威胁的新型攻击。我们在两个代表性用例（即网络威胁狩猎与药物重定位）中展示了 ROAR 的实用性。例如，ROAR 在误导威胁情报引擎对目标查询给出预定义答案方面达到了超过 99% 的攻击成功率，且对非目标查询无任何影响。此外，我们讨论了针对 ROAR 的潜在对策，包括过滤投毒事实与利用对抗查询的鲁棒训练，这引出了若干有前景的研究方向。
引用
@article{arxiv.2110.14693,
title = {Towards Robust Reasoning over Knowledge Graphs},
author = {Zhaohan Xi and Ren Pang and Changjiang Li and Shouling Ji and Xiapu Luo and Xusheng Xiao and Ting Wang},
journal= {arXiv preprint arXiv:2110.14693},
year = {2021}
}