机器人怎么说？大型语言模型在社交媒体机器人检测中的机遇与风险
计算与语言
2024-07-08 v2
摘要
社交媒体机器人检测一直是机器学习机器人检测器的进步与对抗性机器人逃避检测策略之间的一场军备竞赛。在这项工作中，我们通过研究最先进的大型语言模型（LLM）在社交机器人检测中的机遇与风险，将这场军备竞赛提升到了新的水平。为了研究机遇，我们通过提出混合异构专家框架来划分和征服多样化的用户信息模态，设计了新颖的基于 LLM 的机器人检测器。为了阐明风险，我们探索了 LLM 引导下操纵用户文本和结构化信息以逃避检测的可能性。在两个数据集上使用三个 LLM 进行的广泛实验表明，仅在 1,000 个标注示例上进行指令微调就能产生专门的 LLM，在两个数据集上比最先进的基线高出高达 9.1%，而 LLM 引导的操纵策略可能会使现有机器人检测器的性能显著降低高达 29.6%，并损害机器人检测系统的校准和可靠性。
引用
@article{arxiv.2402.00371,
title = {What Does the Bot Say? Opportunities and Risks of Large Language Models in Social Media Bot Detection},
author = {Shangbin Feng and Herun Wan and Ningnan Wang and Zhaoxuan Tan and Minnan Luo and Yulia Tsvetkov},
journal= {arXiv preprint arXiv:2402.00371},
year = {2024}
}
备注
ACL 2024