通过混合异常检测保障临床前影像中生成式人工智能应用的安全性
计算机视觉与模式识别
2025-08-12 v1 人机交互
机器学习
摘要
生成式人工智能在自动化与增强核医学数据合成方面潜力巨大。然而，生物医学影像的高风险特性要求具备稳健的机制来检测并处理意外或错误的模型行为。我们介绍了在BIOEMTECH的eyes(TM)系统中，为保障GenAI模型安全而开发并实施的混合异常检测框架。展示了两个应用：Pose2Xray，从摄影小鼠图像生成合成X光片；以及DosimetrEYE，从2D SPECT/CT扫描估算3D辐射剂量图。在这两种情况下，我们的离群点检测（OD）均增强了可靠性，减少了人工监督，并支持实时质量控制。该方法通过提高稳健性、可扩展性和法规遵从性，增强了生成式AI在临床前环境中的工业可行性。
引用
@article{arxiv.2508.07923,
title = {Safeguarding Generative AI Applications in Preclinical Imaging through Hybrid Anomaly Detection},
author = {Jakub Binda and Valentina Paneta and Vasileios Eleftheriadis and Hongkyou Chung and Panagiotis Papadimitroulas and Neo Christopher Chung},
journal= {arXiv preprint arXiv:2508.07923},
year = {2025}
}