医学机器学习必须以可解释、可共享、可复现和可 accountability 为设计原则
机器学习
2025-08-25 v1 机器学习
摘要
本文主张，在医疗等高风险领域部署的机器学习模型必须具备可解释性、可共享性、可复现性和可 accountability。我们认为，这些原则应构成处理医疗数据中关键医疗任务（如生存分析和风险预测）的机器学习算法的基础设计准则。虽然黑箱模型往往高度准确，但因缺乏透明度，难以获得医疗保健领域的信任和监管批准。我们讨论了内在可解释建模方法（如稀疏核方法、原型基学习和深度核模型）如何作为透明深度网络的有力替代方案，提供对医学 Biomedical 预测的洞见。随后，我们考察模型开发中的 accountability，呼吁进行严格评估、公平性和不确定性量化，以确保模型可靠支持临床决策。最后，我们探讨了生成式 AI 和协作学习范式（如联邦学习和扩散基数据合成）如何在不妥协隐私的前提下，实现可复现的研究和跨机构整合异构医疗数据，从而实现可共享性。通过沿用这些轴心重新思考机器学习的基础，我们可以开发出不仅准确，而且透明、可信且可转化为实际临床环境的医疗 AI。
引用
@article{arxiv.2508.16097,
title = {Machine Learning for Medicine Must Be Interpretable, Shareable, Reproducible and Accountable by Design},
author = {Ayyüce Begüm Bektaş and Mithat Gönen},
journal= {arXiv preprint arXiv:2508.16097},
year = {2025}
}