可解释安全
密码学与安全
2018-07-12 v1 人工智能
摘要
美国国防高级研究计划局（DARPA）最近启动了可解释人工智能（XAI）计划，旨在创建一套新的AI技术，使最终用户能够理解、适当信任并有效管理新兴一代的AI系统。受DARPA的XAI计划启发，本文提出安全研究中的一种新范式：可解释安全（XSec）。我们讨论了XSec的“六个W”（谁？什么？何处？何时？为何？以及如何？），并指出XSec具有独特而复杂的特征：XSec涉及若干不同利益相关者（即系统的开发者、分析师、用户和攻击者），并且本质上是多面的（因为它需要对系统模型、威胁模型以及安全、隐私和信任的性质，以及具体攻击、漏洞和对策进行推理）。我们定义了XSec的路线图，确定了若干可能的研究方向。
引用
@article{arxiv.1807.04178,
title = {Explainable Security},
author = {Luca Viganò and Daniele Magazzeni},
journal= {arXiv preprint arXiv:1807.04178},
year = {2018}
}
备注
1 figure, IJCAI/ECAI 2018 Workshop on Explainable Artificial Intelligence (XAI)