基于约束编程优化医疗智能系统的伦理风险降低
人工智能
2025-10-10 v1
摘要
医疗智能系统（Medical Intelligent Systems，MIS）正日益融入医疗工作流程，为临床实践带来显著益处，但也引发了 critical safety 和伦理 concerns。根据欧盟人工智能法案（European Union AI Act），大多数 MIS 将被归类为 high-risk systems，需进行正式的风险管理流程以确保符合可信赖 AI 的伦理要求。在此背景下，我们关注风险降低优化问题，这类问题旨在通过找到最佳的风险评估值分配，以其覆盖可信赖 AI 伦理要求的方式来降低风险。我们将此问题形式化为受约束的优化任务，并调查了三种解决范式：混合整数规划（Mixed Integer Programming，MIP）、满意性（Satisfiability，SAT）和约束编程（Constraint Programming，CP）。我们的贡献包括对该优化问题的数学公式化、使用 Minizinc 约束建模语言进行建模，以及对每种方法在解决该问题时性能、表达性和可扩展性的 comparative experimental study。基于我们识别出的该方法的局限性，我们对将 Minizinc 模型集成到完整的可信赖 AI 伦理风险管理流程中为 MIS 提出了一些观点。
引用
@article{arxiv.2510.07491,
title = {Optimizing Ethical Risk Reduction for Medical Intelligent Systems with Constraint Programming},
author = {Clotilde Brayé and Aurélien Bricout and Arnaud Gotlieb and Nadjib Lazaar and Quentin Vallet},
journal= {arXiv preprint arXiv:2510.07491},
year = {2025}
}