面向 EUAIA 合规与对抗鲁棒性的知识增强推理
计算与语言
2024-10-15 v1 人工智能
计算机与社会
软件工程
摘要
欧盟人工智能法案（EUAIA）引入的 AI 系统要求与建立对抗鲁棒性的过程相交。然而，鉴于法规语言模糊且对抗攻击动态变化，开发复杂模型（如 LLM）的开发者可能会在努力耗费且无法确保实现合规或鲁棒性。本文提出一种功能架构，旨�通过引入明确来源参考组件来桥接这两个属性。取文献中推荐的检测层与法律要求的报告层，我们旨�为开发者和审计员提供基于知识增强（规则、保证案例、情境映射）的推理层。我们的发现表明，确保在欧盟部署的 LLM 同时实现合规与对抗鲁棒性，为增强可信度提供了一种新颖方向。
引用
@article{arxiv.2410.09078,
title = {Knowledge-Augmented Reasoning for EUAIA Compliance and Adversarial Robustness of LLMs},
author = {Tomas Bueno Momcilovic and Dian Balta and Beat Buesser and Giulio Zizzo and Mark Purcell},
journal= {arXiv preprint arXiv:2410.09078},
year = {2024}
}
备注
Accepted in the VECOMP 2024 workshop