带防护盾的 CitySpec：面向需求形式化的安全智能助手
人工智能
2023-04-03 v2
摘要
智能城市中已开发越来越多的监控系统，以确保城市的实时运行满足安全和性能需求。然而，许多现有的城市需求以英文撰写，存在信息缺失、不准确或模糊的问题。亟需辅助城市决策者将人工指定的需求转换为监控系统可理解的机器形式化规约。为应对这一局限，我们构建了 CitySpec，这是首个面向智能城市需求规约的智能助手系统。为创建 CitySpec，我们首先从 100 多个城市收集了跨不同领域（如交通和能源）的 1,500 多条真实城市需求，并提取城市特定知识以生成含 3,061 个词的城市词汇数据集。我们还构建了翻译模型，并通过需求合成对其进行增强，并开发了带防护验证的新型在线学习框架。在真实城市需求上的评估结果表明，CitySpec 将需求规约的句子级准确率从 59.02% 提升至 86.64%，并对新城市和新领域具有强适应性（例如，经在线学习后西雅图需求的 F1 分数从 77.6% 提升至 93.75%）。在防护盾功能增强后，CitySpec 现可免疫大多数已知文本对抗输入（例如，防护盾功能使 DeepWordBug 的攻击成功率从 82.73% 降至 0%）。我们与来自不同领域的 18 名参与者测试了 CitySpec。CitySpec 展现出对不同领域的强可用性和适应性，以及对恶意输入的鲁棒性。
引用
@article{arxiv.2302.09665,
title = {CitySpec with Shield: A Secure Intelligent Assistant for Requirement Formalization},
author = {Zirong Chen and Issa Li and Haoxiang Zhang and Sarah Preum and John A. Stankovic and Meiyi Ma},
journal= {arXiv preprint arXiv:2302.09665},
year = {2023}
}
备注
arXiv admin note: substantial text overlap with arXiv:2206.03132