SAEL：利用自适应混合专家模型的大语言模型智能合约漏洞检测

随着区块链安全问题的不断增加，智能合约漏洞检测已成为研究热点。现有漏洞检测方法存在局限性：1) 静态分析方法在处理复杂场景时困难；2) 基于专用预训练模型的方法在特定数据集上表现良好，但泛化能力有限。相比之下，通用大语言模型(LLM)在适应新漏洞模式方面展现出惊人的能力。然而，它们在特定漏洞类型上常不如基于专用预训练模型的方法。我们也观察到，通用大语言模型生成的解释可提供细粒度的代码理解信息，有助于提升检测性能。基于上述观察，我们提出了 SAEL，一个基于大语言模型的智能合约漏洞检测框架。我们首先设计了针对性提示词，引导 LLM 识别漏洞并生成解释，作为预测特征。随后，我们对 CodeT5 和 T5进行提示微调，以处理合约代码和解释，提升任务相关性能。为融合各方法的优势，我们引入了自适应混合专家架构。该架构通过 Gating Network 动态调整特征权重，采用 TopK 过滤和 Softmax 归一化选择相关特征，并融入多头自注意力机制以增强跨特征关系。该设计通过梯度优化实现了 LLM 预测、解释特征和代码特征的有效集成。损失函数同时考虑独立特征性能和整体加权预测。实验表明，SAEL 在各种漏洞类型上均优于现有方法。