面向智能网络服务的可信 AI 生成内容: 鲁棒性、安全性与公平性
密码学与安全
2025-02-28 v2 人工智能
网络与互联网体系结构
摘要
以大型语言模型(LLM)为代表的人工智能生成内容(AIGC)模型正在革新内容创建。高速的下一代通信技术是为提供强大 AIGC 网络服务的理想平台。与此同时,先进的 AIGC 技术也使未来网络服务更加智能,尤其是各种在线内容生成服务。然而,当前 AIGC 模型的显著不可信度问题,如鲁棒性、安全性和公平性,严重影响了智能网络服务的可信度,尤其是确保安全的 AIGC 服务。本文提出了TrustGAIN框架,以纳入鲁棒、安全和公平网络服务。我们首先讨论AIGC 模型在网络系统中面对对抗性攻击的鲁棒性及其相关保护问题。随后,我们强调避免不安全和非法服务的重要性,并确保AIGC 网络服务的公平性。作为案例研究,我们提出一种基于情感分析的检测方法,以指导网络服务中不安全内容的鲁棒检测。我们在虚假新闻、恶意代码和不安全评论数据集上进行实验,以代表LLM 应用场景。我们的结果表明,TrustGAIN是对支持可信AIGC网络服务的未来网络的探索。
引用
@article{arxiv.2405.05930,
title = {Trustworthy AI-Generative Content for Intelligent Network Service: Robustness, Security, and Fairness},
author = {Siyuan Li and Xi Lin and Yaju Liu and Xiang Chen and Jianhua Li},
journal= {arXiv preprint arXiv:2405.05930},
year = {2025}
}