使用大型语言模型检测在线市场上的非法内容
计算与语言
2026-03-06 v1 人工智能
摘要
虽然在线市场正在彻底变革全球商业，但无意中促进了非法活动的传播，包括毒品走私、假冒商品交易和网络犯罪。传统的内容 moderation 方法，如手动审核和基于规则的自动化系统，在可扩展性、动态混淆技术以及多语言内容方面都面临挑战。虽然传统机器学习模型在较简单的情况下有效，但在面对非法市场通信所特有的语义复杂性和语言细微差别时，往往难以胜任。本研究探究了大型语言模型（LLM），具体包括 Meta 的 Llama 3.2 和 Google 的 Gemma 3，在检测和分类非法在线市场内容方面的效能。本文采用参数高效微调（PEFT）和量化等微调技术，对这些模型在基于多语言 DUTA10K 数据集的任务中进行系统性基准测试。实验结果显示，LLM 的优势取决于具体任务。在二元分类（非法 vs. 非法）中，Llama 3.2 的表现相当于传统方法。然而，在涉及 40 个具体非法类别的复杂且类别不平衡的多类分类中，Llama 3.2 显著超越了所有基线模型。这些发现为增强在线安全性提供了实质性的实际意义，使执法部门、电子商务平台和网络安全专家能够获得更有效、更可扩展、更自适应的非法内容检测和 moderation 工具。
引用
@article{arxiv.2603.04707,
title = {Detection of Illicit Content on Online Marketplaces using Large Language Models},
author = {Quoc Khoa Tran and Thanh Thi Nguyen and Campbell Wilson},
journal= {arXiv preprint arXiv:2603.04707},
year = {2026}
}
备注
Accepted for publication in the Proceedings of the 8th International Conference on Natural Language Processing (ICNLP 2026)