会计领域 Deepfakes 的对抗学习

如今，组织在“企业资源规划”(ERP) 系统中收集大量与会计相关的交易，称为“日记账分录”。这些分录的汇总最终定义了组织的财务报表。为检测潜在的错报和舞弊，国际审计准则要求审计师使用“计算机辅助审计技术”(CAATs) 直接评估日记账分录。与此同时，深度学习研究的发现表明机器学习模型易受“对抗攻击”。同样显而易见的是，此类攻击技术可能被滥用来生成“Deepfakes”，旨在通过创建令人信服的篡改媒体内容直接攻击人类感知。对此类发展及其对财务和会计领域潜在影响的研究仍处于早期阶段。我们认为，研究此类技术如何在该领域被恶意滥用至关重要。在这项工作中，我们展示了一种使用深度神经网络针对 CAATs 的对抗攻击。我们首先引入一个真实世界的“威胁模型”，旨在伪装会计异常（如舞弊性日记账分录）。其次，我们表明对抗自编码神经网络能够学习日记账分录的可被人解释的生成模型，该模型解耦了分录的潜在生成因子。最后，我们展示了违规者如何恶意滥用此类模型来生成鲁棒的“对抗性”日记账分录以误导 CAATs。