面向美国核电站停机启动事件分类的知识驱动型大型语言模型框架
人工智能
2024-10-03 v1 机器学习
摘要
识别和分类停机启动事件(SDIEs)对于开发核电站低功率停机概率性风险评估至关重要。现有计算方法由于缺乏大规模标记数据集、事件类型不平衡以及标签噪声等挑战，无法实现令人满意的性能。为解决这些挑战，我们提出了一种混合管道，集成了知识驱动的机器学习模型用于筛选非SDIEs，以及大型语言模型(LLM)用于将SDIEs分类为四种类型。在筛选阶段，我们提出了44个SDIE文本模式，包含来自六种SDIE类型的最显著关键词和短语。基于SDIE模式的文本向量化生成特征向量，并通过简单的二分类器实现高度可分离。第二阶段构建基于双向编码器表示从变换者(BERT)的大型语言模型，该模型从大型数据集上的自监督预训练中学习通用英语语言表示，并通过在SDIE数据集上的微调适应SDIE分类。对10,928个事件的评估结果表明，筛选阶段可排除超过97%的非SDIEs，LLM在SDIE分类上实现93.4%的平均准确率。
引用
@article{arxiv.2410.00929,
title = {A Knowledge-Informed Large Language Model Framework for U.S. Nuclear Power Plant Shutdown Initiating Event Classification for Probabilistic Risk Assessment},
author = {Min Xian and Tao Wang and Sai Zhang and Fei Xu and Zhegang Ma},
journal= {arXiv preprint arXiv:2410.00929},
year = {2024}
}