TopoReformer：用于 OCR 模型中利用拓扑净化减轻对抗性攻击
机器学习
2025-11-21 v1 人工智能
摘要
对文本进行对抗性扰动的图像会导致 sophisticated OCR 系统产生误导或不正确的转录，看似对人类不可见的更改。某些扰动甚至存活物理捕获，构成针对文件处理、车牌识别和自动合规系统等高风险应用的安全风险。现有防御措施，如对抗训练、输入预处理或后识别校正，往往针对特定模型、计算昂贵且影响未扰动输入的性能，同时仍然对未知或自适应攻击保持脆弱。为此提出 TopoReformer，一种模型无关的再构管线，通过拓扑净化减轻对抗性扰动，同时保持文本图像的结构完整性。拓扑学研究在连续变形下保持不变的形状和空间的性质，关注全局结构，如连通性、孔和环，而非精确距离。利用这些拓扑特征，TopoReformer 采用拓扑自编码器在潜在空间中强制实现流形级一致性，提高鲁棒性而无需显式梯度正则化。该方法在 EMNIST、MNIST 上进行基准测试，对抗标准攻击(FGSM、PGD、Carlini-Wagner)、自适应攻击(EOT、BDPA)，以及 OCR 特定水印攻击(FAWA)。
引用
@article{arxiv.2511.15807,
title = {TopoReformer: Mitigating Adversarial Attacks Using Topological Purification in OCR Models},
author = {Bhagyesh Kumar and A S Aravinthakashan and Akshat Satyanarayan and Ishaan Gakhar and Ujjwal Verma},
journal= {arXiv preprint arXiv:2511.15807},
year = {2025}
}
备注
Accepted at AAAI 2026 AI for CyberSecurity (AICS) Workshop