弹性线性分类：应对训练数据攻击的方法
机器学习
2017-08-16 v2 人工智能
密码学与安全
系统与控制
摘要
信息物理系统（CPS）中使用数据驱动技术来控制自动驾驶车辆、处理能源管理的需求响应，以及为医疗设备建立人体生理模型。这些数据驱动技术从训练数据中提取模型，其性能通常针对训练数据中的随机误差进行分析。然而，如果训练数据被攻击者恶意篡改，这些攻击对支撑数据驱动 CPS 的学习算法的影响尚未被考虑。在本文中，我们分析了分类算法对训练数据攻击的弹性。具体而言，我们提出了一个通用度量指标，专为衡量分类算法在训练数据最坏情况篡改下的弹性而设计。利用该指标，我们证明了传统线性分类算法在受限条件下具有弹性。为了克服这些局限性，我们提出了一种带多数约束的线性分类算法，并证明其弹性严格优于传统算法。在合成数据和一个真实世界的心律失常医疗回顾性案例研究上的评估表明，传统算法容易受到篡改训练数据的影响，而所提出的算法具有更强的弹性（以最坏情况篡改衡量）。
引用
@article{arxiv.1708.03366,
title = {Resilient Linear Classification: An Approach to Deal with Attacks on Training Data},
author = {Sangdon Park and James Weimer and Insup Lee},
journal= {arXiv preprint arXiv:1708.03366},
year = {2017}
}
备注
Accepted as a conference paper at ICCPS17