认知安全的系统科学方法导论
密码学与安全
2023-01-18 v1 计算机科学与博弈论
摘要
人类的认知能力以及“工业 5.0”对以人为中心的解决方案的需求，使得人类成为信息物理系统 (Cyber-Physical Systems, CPSs) 中不可或缺的组成部分，即人-信息物理系统 (Human-Cyber-Physical Systems, HCPSs)，其中融入了人工智能驱动的技术来辅助和增强人类。第 1.1 节中人类与技术之间的紧密集成以及第 1.2.4 节中的认知攻击带来了新兴的安全挑战，攻击可以利用人类认知过程的漏洞，影响其行为，并最终破坏 HCPS。防御 HCPS 免受认知攻击需要一种新的安全范式，我们在第 1.2.5 节中将其称为“认知安全”。人类认知系统的漏洞及其相关的利用方法将认知安全与“认知可靠性”区分开来，并产生了一个独特的 CIA 三元组，分别如第 1.2.5.1 节和第 1.2.5.2 节所示。第 1.2.5.3 节介绍了认知和技术防御方法，这些方法能够遏制认知攻击的杀伤链并实现认知安全。第 1.3 节中的系统科学视角为应对认知安全的新挑战提供了一个有前景的方向，即通过开发定量的、模块化的、多尺度的和可迁移的解决方案。
引用
@article{arxiv.2301.05920,
title = {An Introduction of System-Scientific Approaches to Cognitive Security},
author = {Linan Huang and Quanyan Zhu},
journal= {arXiv preprint arXiv:2301.05920},
year = {2023}
}