面向网络欺骗的可控伪造文档填充
人工智能
2022-10-31 v2 密码学与安全
摘要
近期关于网络欺骗的研究探讨如何通过生成关键文档的多个伪造版本来阻止恶意入侵，从而对需要识别正确信息的对手施加成本。然而，现有方法忽视上下文，导致输出次优且缺乏变化。我们提出一种新颖的上下文感知模型——伪造文档填充（FDI），将问题转化为可控的先掩码后填充流程。FDI 对文档中不同长度的重要概念进行掩码，然后结合前文与后文上下文填充一个真实但伪造的替代内容。我们在技术文档和新闻故事上进行了全面评估。结果表明，FDI 在生成高度可信的伪造内容以保护关键信息并欺骗对手方面优于基线，且改动适度。
引用
@article{arxiv.2210.09917,
title = {Controllable Fake Document Infilling for Cyber Deception},
author = {Yibo Hu and Yu Lin and Erick Skorupa Parolin and Latifur Khan and Kevin Hamlen},
journal= {arXiv preprint arXiv:2210.09917},
year = {2022}
}
备注
Findings of EMNLP 2022