论关键任务IT治理中的大语言模型：我们准备好了吗？
密码学与安全
2025-01-13 v2 人工智能
新兴技术
软件工程
摘要
背景。自计算机问世以来，关键基础设施的安全一直是一个紧迫的问题，在当今网络战时代变得尤为关键。保护对国家安全至关重要的关键任务系统（MCSs）需要迅速而稳健的治理，然而近期事件表明应对这些挑战的难度日益增加。目标。基于先前展示生成式AI（如大语言模型）在增强风险分析方面潜力的研究，我们旨在探索从业者对于将生成式AI整合到IT关键任务系统治理中的看法。我们的目标是为利益相关者（包括研究人员、从业者和政策制定者）提供可操作的见解和建议。方法。我们设计了一项调查，以收集在关键任务系统背景下开发和实施安全解决方案的从业者的实践经验、关注点和期望。结论与未来工作。我们的发现强调，在关键任务系统治理中安全使用LLM需要跨学科协作。研究人员应专注于设计面向监管的模型并关注问责制；从业者强调数据保护和透明度，而政策制定者必须建立一个统一的AI框架，并辅以全球基准，以确保基于LLM的关键任务系统治理符合伦理且安全。
引用
@article{arxiv.2412.11698,
title = {On Large Language Models in Mission-Critical IT Governance: Are We Ready Yet?},
author = {Matteo Esposito and Francesco Palagiano and Valentina Lenarduzzi and Davide Taibi},
journal= {arXiv preprint arXiv:2412.11698},
year = {2025}
}