AI 安全图谱：AI 安全技术的整体组织及其对利益相关者的影响
密码学与安全
2025-08-13 v1 人工智能
摘要
随着人工智能的社会实施稳步推进，与 AI 安全相关的研究和开发也在不断增加。然而，现有研究仅限于在特定领域或 AI 要素方面组织相关技术、攻击、防御和风险。因此，理解它们之间的关系以及如何对利益相关者产生负面影响变得极其困难。在本文中，我们认为与 AI 安全相关的知识、技术和社会影响应被整体性地组织起来，以帮助理解它们之间的关系。为此，我们首先开发了一个 AI 安全图谱，该图谱整体性地组织了 AI 安全相关要素之间的相互关系，以及对信息系统和利益相关者的负面影响。该图谱由两个方面组成，即信息系统方面（ISA）和外部影响方面（EIA）。AI 在信息系统内应满足的要素被归类在 ISA 下。EIA 包含了因 AI 受到攻击或被滥用而影响利益相关者的要素。对于每个要素，都识别了相应的负面影响。通过参考 AI 安全图谱，人们可以理解潜在的负面影响及其原因和对策。此外，我们的图谱有助于阐明基于 AI 的系统所受的负面影响如何与利益相关者所受的负面影响相关联。我们展示了通过参考我们的图谱新获得的一些发现。我们还提供了一些建议和开放性问题，以指导未来的 AI 安全社区。
引用
@article{arxiv.2508.08583,
title = {AI Security Map: Holistic Organization of AI Security Technologies and Impacts on Stakeholders},
author = {Hiroya Kato and Kentaro Kita and Kento Hasegawa and Seira Hidano},
journal= {arXiv preprint arXiv:2508.08583},
year = {2025}
}