安全多模态学习系统综述
计算机与社会
2024-07-17 v6 人工智能
摘要
在快速发展的人工智能领域，多模态学习系统（MMLS）因其处理和整合来自不同模态输入信息的能力而受到关注。它们在医疗保健等关键领域的广泛应用，使得安全保障成为一个关键问题。然而，缺乏对其安全性的系统性研究是该领域进展的一个重大障碍。为了弥补这一差距，我们提出了首个系统性地对 MMLS 安全性进行分类和评估的分类法。该分类法围绕确保 MMLS 安全性至关重要的四个基本支柱构建：鲁棒性、对齐、监控和可控性。利用这一分类法，我们回顾了现有的方法论、基准和当前研究现状，同时指出了主要的局限性和知识空白。最后，我们讨论了 MMLS 安全性中的独特挑战。通过阐明这些挑战，我们旨在为未来的研究铺平道路，提出可能推动 MMLS 安全协议取得重大进展的潜在方向。
引用
@article{arxiv.2402.05355,
title = {A Survey on Safe Multi-Modal Learning System},
author = {Tianyi Zhao and Liangliang Zhang and Yao Ma and Lu Cheng},
journal= {arXiv preprint arXiv:2402.05355},
year = {2024}
}