面向金融交易记录深度模型的对抗攻击
机器学习
2021-06-17 v1 密码学与安全
统计金融
摘要
以交易记录为输入的机器学习模型在金融机构中十分流行。最高效的模型使用了与 NLP 领域类似的深度学习架构，因其海量参数和有限鲁棒性而带来挑战。特别地，深度学习模型易受对抗攻击：输入的一点改动就会损害模型输出。本工作中，我们考察交易记录数据上的对抗攻击及相应防御。交易记录数据的结构与典型 NLP 或时间序列数据不同，因为相邻记录的连接弱于句子中的词，且每条记录同时包含离散商户代码与连续交易金额。我们考虑黑盒攻击场景，即攻击方不知晓真实决策模型，并特别关注向序列末尾添加交易令牌。这些限制提供了更现实的、此前在 NLP 领域未被探索的场景。所提对抗攻击及相应防御在来自金融业的相关数据集上展现出卓越性能。我们的结果表明，少量生成的交易即足以欺骗深度学习模型。进一步，我们通过对抗训练或独立的对抗样本检测提升了模型鲁棒性。本工作表明，嵌入对抗攻击防护可改善模型鲁棒性，使交易记录深度模型在银行与金融领域得到更广泛应用。
引用
@article{arxiv.2106.08361,
title = {Adversarial Attacks on Deep Models for Financial Transaction Records},
author = {Ivan Fursov and Matvey Morozov and Nina Kaploukhaya and Elizaveta Kovtun and Rodrigo Rivera-Castro and Gleb Gusev and Dmitry Babaev and Ivan Kireev and Alexey Zaytsev and Evgeny Burnaev},
journal= {arXiv preprint arXiv:2106.08361},
year = {2021}
}