LinkedIn 中的薄弱环节：在 LLMs 时代增强虚假档案检测
社会与信息网络
2025-07-24 v1 计算机视觉与模式识别
计算机与社会
摘要
大型语言模型（LLMs）使得在 LinkedIn 等平台上创建逼真的虚假档案变得更加容易。这对基于文本的虚假档案检测器构成了重大风险。在本研究中，我们评估了现有检测器针对 GPT 生成档案的鲁棒性。尽管现有检测器在检测手动创建的虚假档案方面非常有效（错误接受率：6-7%），但它们无法识别 GPT 生成的档案（错误接受率：42-52%）。我们提出 GPT 辅助的对抗训练作为对策，将错误接受率恢复至 1-7% 之间，且不影响错误拒绝率（0.5-2%）。消融研究表明，在数值和文本嵌入组合上训练的检测器表现出最高的鲁棒性，其次是仅使用数值嵌入的检测器，最后是仅使用文本嵌入的检测器。对基于提示的 GPT-4Turbo 和人类评估者能力的补充分析，证实了对本研究提出的此类鲁棒自动化检测器的需求。
引用
@article{arxiv.2507.16860,
title = {Weak Links in LinkedIn: Enhancing Fake Profile Detection in the Age of LLMs},
author = {Apoorva Gulati and Rajesh Kumar and Vinti Agarwal and Aditya Sharma},
journal= {arXiv preprint arXiv:2507.16860},
year = {2025}
}
备注
10 pages, 3 figures, 1 table, accepted for publication at ASONAM 2025. https://sites.google.com/view/weaklinksinlinkedin/home