Reveal-to-Revise：基于多模态注意力的可解释偏见感知生成模型
机器学习
2026-04-08 v3 人工智能
摘要
我们提出一种可解释、偏见感知的生成框架，将跨模态注意力融合、Grad-CAM++ 归因和 Reveal-to-Revise 反馈环 within 一个训练范式中统一起来。该架构将条件注意力 WGAN GP 与偏见正则化和迭代局部解释反馈耦合在一起，并在 Multimodal MNIST 和 Fashion MNIST 上进行评估，用于图像生成和子群审计，以及一个有毒/无毒文本分类基准。所有实验使用分层 80/20 拆分、基于验证的早期停止和 AdamW 余弦退火，结果在三个随机种子上平均。该模型达到 93.2% 的准确率，91.6% 的 F1 分数和 78.1% 的 IoU-XAI，净实验结果在所有指标上均优于所有基线，而对抗训练在 Fashion MNIST 上恢复 73% 至 77% 的鲁棒性。消融研究确认融合、Grad-CAM++ 和偏见反馈各自独立贡献于最终性能，解释提升了结构一致性（SSIM = 88.8%，NMI = 84.9%）和受保护子群的公平性。这些结果确立了归因和引导生成学习作为面向高风险 AI 应用的实用且可信的方法。
引用
@article{arxiv.2510.12957,
title = {Reveal-to-Revise: Explainable Bias-Aware Generative Modeling with Multimodal Attention},
author = {Noor Islam S. Mohammad and Md Muntaqim Meherab},
journal= {arXiv preprint arXiv:2510.12957},
year = {2026}
}
备注
We are recently authors in conflict with this work; I am heartily requesting to withdraw this paper as soon as possible