面向确保欧盟AI法规合规性和对抗鲁棒性的LLM
密码学与安全
2024-10-10 v1 人工智能
摘要
大语言模型容易被滥用且易受到安全威胁，引发重大的安全和安全顾虑。欧盟人工智能法案旨在强制执行AI鲁棒性，但由于缺乏标准、LLM的复杂性以及新兴安全漏洞，面临实施挑战。我们的研究引入了一种使用本体、保证性案例和事实表来支持工程师和利益相关者理解和文档化AI系统合规性和安全性以应对对抗鲁棒性的方法。该方法旨在确保LLM遵守监管标准并具备应对潜在威胁的能力。
引用
@article{arxiv.2410.05306,
title = {Towards Assuring EU AI Act Compliance and Adversarial Robustness of LLMs},
author = {Tomas Bueno Momcilovic and Beat Buesser and Giulio Zizzo and Mark Purcell and Dian Balta},
journal= {arXiv preprint arXiv:2410.05306},
year = {2024}
}
备注
Accepted in the AI Act Workshop