为科学领域大语言模型设置护栏的挑战
人工智能
2024-12-05 v2
摘要
大语言模型 (LLM) 的快速发展改变了自然语言处理与理解 (NLP/NLU) 的格局，为各个领域带来了显著益处。然而，当应用于科学研究时，这些强大的模型表现出与科学诚信和可信度相关的关键失效模式。现有的通用 LLM 护栏不足以应对科学领域的这些独特挑战。我们为在科学领域部署 LLM 护栏提供了全面的指南。我们识别了具体的挑战——包括时间敏感性、知识情境化、冲突解决和知识产权问题——并提出了一个能够与科学需求对齐的护栏指导框架。这些护栏维度包括可信度、伦理与偏见、安全性和法律方面。我们还详细概述了可在科学环境中强制执行的白盒、黑盒和灰盒方法的实施策略。
引用
@article{arxiv.2411.08181,
title = {Challenges in Guardrailing Large Language Models for Science},
author = {Nishan Pantha and Muthukumaran Ramasubramanian and Iksha Gurung and Manil Maskey and Rahul Ramachandran},
journal= {arXiv preprint arXiv:2411.08181},
year = {2024}
}